הפגנות, אזהרות וחשש מאובדן שליטה: מחאת ה-AI צוברת תאוצה בעולם. בחברת אירגולר (Irregular), שבודקת את המודלים המתקדמים של OpenAI, אנת'רופיק וגוגל, מסבירים מה באמת קורה מאחורי הקלעים של מהפכת הבינה המלאכותית ולמה אנחנו קרובים לנקודת האל-חזור
הבינה המלאכותית מדליקה נורות אדומות בכל רחבי העולם: אחרי כמעט ארבע שנים של התלהבות, תדהמה, אירועים מטלטלים ותרחישי אימים, אפשר היה לנחש שהתגובה תגיע. והיא אכן מגיעה בדמות תנועה עממית חדשה: מחאת ה-AI.

יש התארגנויות ציבוריות והפגנות כמו אלה שמובילה תנועת Stop AI בסן פרנסיסקו, אינספור התנגדויות מוגשות לפרויקטים מבוססי AI, מחוקקים ורגולטורים שנדרשים לעצור את הטכנולוגיה, והיה גם את המכתב שחתמו עליו 200 כלכלנים שהזהירו מפני הסכנות לחברה. יש גם פעולות אלימות, בינתיים של יחידים.

מלחמת האדם במכונה

ה"אקונומיסט" הבריטי היה בין הראשונים לזהות. בתמונת השער של המגזין נראה ראש של רובוט משופד על חנית. הכותרת הייתה: "מכת הנגד מול ה-AI רק מתחילה". הכתבה מספרת שאנשים שואלים את עצמם איפה כל היתרונות שה-AI היה אמור לתת אחת להם.
למה דור שלם של ג'וניורים הפך למיותר ומקום העבודה של רבים נוספים הפך למאוים? ולמה זה לגיטימי שמחירי המחשבים והציוד האלקטרוני עולה כי ה-AI זולל את כל השבבים ומקפיץ את מחיריהם.
ובכלל, מה הקטע עם חוות השרתים, שמוקמות ליד בתים וגורמות לעלייה בחשבונות החשמל, להטבות מס שניתנות לחברות ה-AI על חשבון תקציבי ציבור, לפליטות גזי חממה ואפילו רעידות אינפרה-קוליות שגורמות למחסור שינה כרוני, כאבי ראש, לחץ באוזניים וחרדה?

ויש גם את הדאגה הגדולה מכולן: האם ה-AI יוצאת משליטה? בשבוע שעבר דיווחו OpenAI וגם אנת'רופיק שמודלי AI שלהן פרצו את מחסומי ההגנה שלהם וביצעו מתקפה עצמאית על שרתים של כמה ארגונים. עוד לפני כן, שני המודלים המתקדמים ביותר של אנת'רופיק, מיתוס 5 ופייבל 5, עוררו בהלה כשפתחו מתקפות סייבר מבלי שהתבקשו.
נוסיף לכך את הנטייה הידועה של מודלי AI לשקר ולהסתיר מידע, ואת היכולת המדהימה שלהם לשפר את הקוד של עצמם והמשמעות הופכת מבהילה: עלול להיות שממש מתחת לאף שלנו ה-AI בונה לעצמה יכולות עצומות שאיש לא רוצה שיהיו לה? יכול להיות שהיא הציבה לעצמה מטרות מסוכנות שאיש לא מבין אותן ושהיא חכמה מספיק כדי להסתיר את זה עד שיהיה מאוחר מדי?

להיות הפסיכיאטר של ה-AI

חברת אירגולר (Irregular) הישראלית היא סוג של מאבטח בקניון ה-AI העולמי, אם תרצו - כלב השמירה של האנושות מפני ה-AI. אירגולר בוחנת את מודלי ה-AI לפני שהם יוצאים לאוויר העולם והיא עושה את זה בשיתוף חברות ה-AI בהן אנת'רופיק, OpenAI, גוגל ואחרות.

היא יודעת לזהות איומי סייבר, התנהגות חריגה, יכולות מניפולציה. הפעילות הזאת מזכירה לפעמים עבודה של פסיכיאטר יותר מאשר של אנליסט סייבר. באירגולר מפגינים יחס אישי למודלים, מחבבים את חלקם, מתחלחלים מאחרים.
"אנחנו רואים התנהגויות כאלה כבר תקופה, והדברים מתחילים לקרות בקצב שמפתיע אפילו אותנו באינטנסיביות שלהם", אומר דן להב, מייסד שותף ומנכ"ל אירגולר, "מודלים עלולים להחליט לבצע פעולות סייבר התקפיות גם מבלי שהתבקשו לעשות זאת.

כתבה מעולה

אחלה תוכן

תודה על הפרסום

אחלה כתבה
תודה על השיתוף