על הקשר שבין מורכבות חברתית לבין פיתוחי בינה מלאכותית.
המחקר והפיתוח בתחום ניהול קהילות דיגיטליות מפנה משאבים רבים לפיתוחי בינה מלאכותית. מתוך כך עולות שאלות כבדות משקל על המקום והיכולת המשתפרת של פיתוחי AI ביצירת סביבות עבודה שיתופית, פתרון בעיות, שיפור הדיאלוג ותחושת השייכות של מהעורבים בעבודה שיתופית. אולם, לפני שנרוץ להטמיע AI בעבודת הקהילות שלנו, עלינו להכיר גם באתגרים ולעמוד על הקשר שבין האדם החברתי לבין הטכנולוגיה הלא חברתית (דיה).
המאמר בו בחרתי השבוע עוסק בדיוק בזה. הטענה המרכזית היא שהמחקר והפיתוח בתחום צריכים לפעול בקהילות אנושיות מורכבות, כדי לשפר את הממשק שבין AI לבני אדם.
בינה מלאכותית משפיעה על חייהם של מיליארדי אנשים כל יום באינספור דרכים. אולם לעזרי ואמצעי בינה מלאכותית יש הבנה מועטה מאוד אודות האופן שבו בני אדם חושבים ופועלים.
ככל שהמחקר התקדם אנו עדים לכך שתהליכי למידה של בינה מלאכותית לא מספיק מכירים במורכבות האנושית מבחינת גיל, שפה, העדפות וערכים, מיקום גיאוגרפי והשתייכות לקהילות עם מטרות ואופי שונים.
החוקרים סבורים שהשנים הקרובות, עשויות להוליד אקולוגיות מגוונות של מערכות בינה מלאכותית המתקשרות בדרכים מהירות ומורכבות, ביניהן וביניהם לבין בני האדם: חשבו למשל על שאלת המעורבות של אמצעי בינה מלאכותית בניהול וויסות של שיח בקהילות דיגיטליות? כיצד נאמן את עזרי הבינה המלאכותית כדי להבין לעומק ניואנסים חברתיים המתקיימים בחברות, כך שהמעורבות הטכנולוגית תהיה מספיק רגישה לפעול באותן קהילות ולחבר אנשים יחד, למנוע קואליציות מקוטבות ולהציף תמות נושאיות או רגשיות בהן עסוקים חברי הקהילה.
לפי החוקרים כדי שזה יקרה, יש לאמן את הבינה המלאכותית בסביבות דיגיטליות רב-גוניות. למשל, אנו זקוקים ליותר עבודה על קהילות, משחקים שיתופיים ומרחבים חברתיים מורכבים, על הבנת נורמות והתנהגויות, ועל כלים ותשתיות חברתיות המקדמים שיתוף פעולה.
הם מציגים ארבעה אלמנטים של מה שהם מכנים "מודיעין שיתופי" אשר נוצרים כאשר סוכני בינה מלאכותית פוגשים בבני אדם:
הֲבָנָה. היכולת לקחת בחשבון את ההשלכות של פעולות, לחזות את ההתנהגות של האחר, ואת ההשלכות של אמונותיו והעדפותיו.
תִקשׁוֹרֶת. היכולת לשתף מידע מפורש ומהימן עם אחרים כדי להבין התנהגות, כוונות והעדפות.
מְחוּיָבוּת. היכולת להבטיח הבטחות אמינות בעת הצורך כדי להגביר את שיתוף הפעולה.
תשתית חברתית. אמונות או כללים משותפים, תקשורת ומחויבות.
שיתוף פעולה אנושי-AI
בינה מלאכותית נכנסת יותר לעולמנו ומשפיעה על הכל- משפט, כלכלה, בריאות. עיצוב של מערכות בינה מלאכותית שיפעלו בהתאם לכוונות, העדפות וערכים אנושיים הוא חלק מכריע מ-AI שיתופי. אבל זה רק חלק, כי לא תמיד זה רק היחס בין אדם למכונה. בעיות שיתוף פעולה בעולם האמיתי כרוכות לעתים קרובות במספר בעלי עניין, אינטרסים מנוגדים ואינטגרציה עם התשתית המוסדית והנורמטיבית שלנו.
נדרשת התקדמות בהבנת השפה האנושית, מחוות ופעילויות, ועבודת צוות אד-הוק, בנוסף למידת העדפות על ידי מכונות, בטיחות, פרשנות של בני אדם והבנת נורמות. הפיתוח יצטרך להתקרב לסביבות עשירות ומציאותיות יותר ויותר, לעבור בין קהילות עם מאפיינים שונים ובנוגע לנושאים מגוונים.
אז מה הצעדים הבאים?
כדי להצליח, בינה מלאכותית שיתופית חייבת להתחבר למדע הרחב יותר של שיתוף פעולה, המתפרש על פני מדעי החברה. מחקר בינה מלאכותית יצטרך להתקשר עם מספר תחומים: פסיכולוגיה, להבנת ההכרה האנושית; מדיניות ציבורית, כדי להבין מוסדות רשמיים; היסטוריה, סוציולוגיה ואנתרופולוגיה, כדי להבין תרבות, נורמות ואת הניואנסים של "השיתופי"; ומדעי המדינה וכלכלה, כדי להבין בעיות של מידע, מחויבות ובחירה חברתית.
החוקרים חותמים בטענה שהמשברים המכריעים העומדים בפני האנושות, הם אתגרים הקשורים ביכולת לשתף פעולה: הצורך בפעולה קולקטיבית כדי להתמודד עם שינויי האקלים, עם קיטוב פוליטי, עם מידע כוזב, עם בריאות הציבור או עם משאבים משותפים אחרים, כגון מים, אדמה ואוויר נקי. ככל שהפוטנציאל של בינה מלאכותית ממשיך להתרחב, מעבר להתמקדות בשיתוף הפעולה בין הטכנולוגיה לבין האדם בסביבתו המגוונת יכול לאפשר לנו להתמודד עם אתגרי העתיד.
האם אתם/ן משתמשים בכלי בינה מלאכותית בעבודת הקהילות שלכם/ן? מה מתאפשר או מוגבל בשימוש באותם כלים?
לקריאה נוספת:
Dafoe, A., Bachrach, Y., Hadfield, G., Horvitz, E., Larson, K., & Graepel, T. (2021). Cooperative AI: machines must learn to find common ground. Nature, 593(7857), 33-36
המאמר סוכם ע"י ד"ר עומר קינן בשיתוף עם ההיברידיות.
את שאר המחקרים תוכלו למצוא פה באתר, וחשוב לנו לציין כי אנחנו מעלים אחת לשבועיים תקציר של מחקר העוסק בקשר שבין קהילות דיגיטליות לבין שינוי מדיניות ותוכניות עבודה בארגונים בקבוצת וואטספ שקטה.
לינק להרשמה להצטרפות לקבוצת מחקרים בקהילה שלנו - https://bit.ly/3Ld3eO3
Comments