מבקר המדינה על הבינה המלאכותית: "קיימים סיכונים רבים ובהם "פייק ניוז""

מבקר המדינה מתניהו אנגלמן השתתף היום (רביעי) בוועידת "שבוע הסייבר" של אוניברסיטת תל אביב. בדבריו חשף המבקר, המכהן גם כסגן נשיא ארגון המבקרים האירופאי (EUROSAI), כי משרדו יתחיל בביקורת על מוכנות המדינה לעידן הבינה המלאכותית (AI). הביקורת תיעשה בשיתוף פעולה עם גורמים נוספים באירופה כדוגמת מבקר האיחוד האירופי, ומבקרי המדינות של בריטניה, גרמניה ומדינות רבות נוספות.

הביקורת תתמקד בשלושה היבטים בנוגע לפעולות הממשלה ולהיערכותה: התמודדות עם סיכוני הבינה המלאכותית בהיבט הטכנולוגי, קידום רגולציה וחקיקה, ויישום כלי בינה מלאכותית במערכות ציבוריות-מדינתיות.

לדבריו, "הבינה המלאכותית עשויה להביא לכדי התקדמות טכנולוגית רחבת היקף בתחומים רבים אך לצדה קיימים סיכונים רבים ובהם "פייק ניוז", שימוש ב-AI ע"י גורמי טרור ופשיעה וההיערכות לשינויים הדרמטיים בשוק העבודה. בנושא הטכנולוגי נבדוק האם הממשלה מוכנה לטכנולוגיה החדשנית בהיבטי הממשל, יכולות המחשוב, ההון אנושי ועוד; בסוגיית הרגולציה והחקיקה נבדוק כיצד מגינה הממשלה על אזרחיה ועל עצמה על ידי הגבלת השימוש בטכנולוגיית AI שעלולה לגרום להשפעות שליליות ולחשוף את הציבור לסכנות. ההיבט השלישי הוא יישום בינה מלאכותית במערכות ציבוריות-מדינתיות. במסגרתו נבדוק האם וכיצד בינה מלאכותית מוטמעת בתוך מערכות המדינה – בריאות, משפט, ביטחון, חינוך וכו'."

"כמבקר המדינה אני רואה חשיבות משמעותית בביצוע ביקורת מקיפה בתחום הבינה המלאכותית וסיכוניה. עולם הביקורת רואה בסיכוני בינה מלאכותית סיכון מרכזי. האתגרים הכרוכים בהתמודדות עם העניין מורכבים והם דורשים, בין היתר, שיתוף פעולה רציף בין מדינות, להתמודדות מיטבית עם סיכוני בינה מלאכותית. לצד היתרונות הרבים של הבינה המלאכותית, היא טומנת בחובה גם סכנות גדולות להתעצמות ארגוני הטרור והפשיעה." הוסיף.

עוד אמר: "היא עלולה לערער את היסודות עליהם אנחנו נשענים ולהשפיע על כלל האנושות. על מבקרי המדינות לבדוק שמדינות המערב, וישראל בתוכן, מוכנות לעידן ה- AI. אנו במשרד מבקר המדינה מתחייבים להמשיך ולהתייחס לנושא משמעותי זה ביתר שאת, לטובת אזרחי ישראל והעולם כולו".