בסין חוששים: בינה מלאכותית תביא להסלמה ביטחונית עולמית

דוח חדש של ארגון "המרכז לביטחון אמריקאי חדש" (CNAS) קובע כי מומחים ופוליטיקאים סינים חוששים מהסלמה ביטחונית עולמית כתוצאה מהטמעת טכנולוגיות AI חדשות וחוסר בהירות לגבי נורמות השימוש בהן בין מדינות. לפי הדוח, הבכירים ערים לכך שמדינות מנסות לשלב AI בנשקים ובתחום הצבאי, אך נורמות התקשורת בין המדינות עדיין מיושנות ולא מותאמות למציאות המשתנה.

גרגורי אלן, כותב הדוח שכותרתו "הבנת אסטרטגיית ה-AI של סין: רמזים לחשיבה האסטרטגית הסינית על בינה מלאכותית וביטחון לאומי", מטעם ה-CNAS הסביר לאתר The Verge כי החשש מתייחס לתרחישים של שימוש ברחפנים למשל, שהתפעול שלהם הפך לאוטומטי יותר ויותר בשנים האחרונות. צדדים שונים מתייחסים לשימוש בטכנולוגיה בזהירות פחותה, מאחר שעבור צד אחד שליחת רחפן לטריטוריה אחרת לא מסכן חיי אדם, ועבור הצד השני הפלתו לא מסכנת חיי אדם. אך מאחר שאין עדיין נורמות התנהגות ברורות סביב הטכנולוגיה, לא ברור איך כל צד יפרש את התנהגות הצד השני, והסיכוי להסלמה לא מכוונת עולה.

כשלוקחים בחשבון טכנולוגיה בעלת רמת אוטונומיה מתקדמת, כמו רחפן או רובוט שעשויים לירות יריית אזהרה על כוחות הצד השני, הבלבול גובר - מאחר שקשה יהיה לדעת אם מדובר בתגובה אוטומטית של הרובוט או החלטה של מפעילים אנושיים. אלן ציין כי בארה"ב פחות מודעים לסיכונים האלו וכי נדרש שיתוף פעולה בין המעצמות כדי לפתור את הסוגיה.

עוד עולה מהדוח כי בסין מזהים ששני הכוחות המשמעותיים היחידים בתחום הבינה המלאכותית בעולם הם ארה"ב וסין, מאחר שלשתי המדינות יש את האנשים, המימון והסקטור הטכנולוגי המתאימים כדי לקדם את הטכנולוגיה. בסין מכירים גם בכך שיש להם גישה ליותר דאטה, שנדרשת לפיתוח הטכנולוגיה, ויותר פוטנציאל להסתגל במהירות לטכנולוגיות חדשות. כשמצד שני, ארה"ב מובילה בפיתוח שבבים, אך סין פועלת כדי לסגור את הפער, בין היתר באמצעות יוזמות של חברות סיניות לפיתוח מואץ של חומרה, שזוכות למימון ממשלתי רב.