AI - אנתרופיק חסמה ניסיונות אפשריים לייצר כלי נשק ביולוגיים באמצעות הבינה המלאכותית שלה.
אחד ממקרי הבוחן הכלולים בדו"ח של החברה מתאר עבודה עם נגיפים כגון נגיף האבעבועות השחורות.
ביום חמישי פרסמה חברת Anthropic מסמך המפרט כיצד נקטה החברה צעדים נגד מספר משתמשים במודלים של בינה מלאכותית מתוצרתה, אשר ביצעו מחקר שעלול היה להוביל לפיתוח נשק ביולוגי. הדו"ח מציין כי המקרים הכלולים בו אינם דוגמאות טיפוסיות לשימוש לרעה בסוכני הבינה המלאכותית שלה, והם מגוונים – החל מאפליקציות היכרויות מזויפות ומערכות מעקב ועד לאפשרות לפיתוח נשק ביולוגי.
הארגונים והאנשים ש-Anthropic חסמה בשל מחקר בנושא נשק ביולוגי אינם מוזכרים בשמם בדו"ח, וכן לא מצוין בו אילו גורמים ביולוגיים היו מעורבים. עם זאת, החברה מציינת כי היו מדענים שפעלו "להסוות את מטרת המחקר שלהם כדי לעקוף את מנגנוני ההגנה שלנו".
עם זאת, ראוי לציין כי פרסום הדו"ח מגיע בעקבות סדרת פוסטים שפרסמו השבוע חוקרים מ-Anthropic ברשתות החברתיות, בהם הזהירו כי בינה מלאכותית עלולה "להרוג את כל בני האדם" עד סוף העשור. החוקר ג'ייקוב קוקסון (Jacob Coxon), שהתפטר מ-Anthropic ביום שלישי, אמר כי האזהרות "לא היו תרגיל שיווקי", וכי "שום פעילות אנושית אחרת אינה טומנת בחובה סכנה ברמה כזו".
Anthropic מציינת כי הדוגמאות למחקרים מורכבים שבלמה התאפשרו רק משום שהמודלים העדכניים ביותר שלה הפכו לחזקים מספיק כדי לבצע משימות אלו; במקרים רבים, "אפילו לפני שנה בלבד, [הם] היו דורשים צוות גדול של מפעילים מיומנים וידע מקצועי ייחודי".
לא להכרזות שלהם ולא להצהרות שלהם…
מדאיג מאוד