עליית המין השליט החדש

ג'יימס בארט (James Barrat) מאוד מאוד מודאג. בספר Our Final Invention, כלומר המצאה האחרונה שלנו, הוא שואל האם האנושות, המין האנושי ישרוד לאחר שיפתח מכונה שהיא בעלת מודעות עצמית (self aware) והשואפת להשתפרות מתמדת (self improving). בינת על מלאכותית Artificial Superintelligence - ASI. בינה מלאכותית המשיגה את היכולות האנושיות בכל קשת המשימות.

The rise of powerful AI will be either the best or the worst thing ever to happen to humanity. We do not yet know which.

Stephen Hawking

בארט יוצר סרטים דוקומנטריים חקר, בדק וכתב במשך שנים את הסכנה הכרוכה בבינת העל. לדעתו ברגע שנברא בינה שכזו והוא חושב שזה יקרה, למרות הקשיים שהוא מתאר, בינת העל שמונעת מרצון לפעול ביעילות (efficiency), בשימור עצמי (self preservation), תחתור ליצור ולאגור משאבים (resource acquisition), ותהיה יצירתית (creativity) הלך עלינו [ולא, שלושת חוקי הרובוטיקה לא יעזרו].

עוד מעלה בארט עניינים של ממשק אדם מכונה, ובכלל זה חיבור שילוב המוח ובינת על; שאלות של מוסר וערכים, הכרוכות ביצירת בינת על או בינות הביניים והשימוש בהן; ועוד. אין לי מספיק ידע לשפוט מה יהיה כשנחצה את הקו, אבל ניתן ללמוד הרבה על הבינה המלאכותית ועל התהליכים הכרוכים בפיתוחה ובתפיסות השונות הקשורות בפיתוחה ובשימושים בה.

והרי מה יש להיות מודאגים בתוצר של מרוץ החימוש שסוכנות פיתוח האמל"ח של ארה"ב (דארפ"א) משקיעה בו מיליארדים כבר עשורים רבים? לדעתו מרבית העוסקים בתחום אינם מקדישים מחשבה רבה לסכנה שבפיתוח ישות חכמה בהרבה מאתנו, מקסימום היא תתייחס אלינו כמו שאנחנו מתייחסים לישויות הפחות חכמות מאתנו למשל קרנפים.

#ספר על נושא מרתק ועל עולמינו המשתנה במהירות. לא רק למומחים. מומלץ ביותר.

תקראו, ותהיו בינה נחמדה.

ויש גם שיר.

אם כבר קראתם, אז תקראו את 'אני, רובוט' של אסימוב.

#בינהמלאכותית #JamesBarrat #Invention #מחשבים #רובוט