מאמר תגובה על רגולציה בעידן הבינה המלאכותית

אני מצרף פוסט מעניין שעסק במעבר של עולם הפינטק מכלכלת פעולות לכלכלת סוכנים. המסר המרכזי היה שהאתגרים הקרובים בתחום אינם טכנולוגיים, אלא רגולטוריים, ושהרגולציה הנדרשת עדיין אינה קיימת. הניתוח הזה מעלה שאלות חשובות, אך מנקודת המבט של מחקר אלגוריתמי יישומי, התמונה מעט מורכבת יותר.

המעבר מניהול של פעולות בודדות לניהול של מדיניות וכוונות הוא אכן שינוי מהותי. כפועל יוצא, לצד מנגנוני ה-KYC (הכר את הלקוח) הקיימים, מתגבש הצורך המעשי ב-KYA (Know Your Agent), היכרות מעמיקה עם הסוכן שפועל מטעם הלקוח. עבור גורמי מקצוע העוסקים בתחום, הצורך הזה אינו חדש.

עם זאת, בניגוד לטענה שהאתגרים אינם טכנולוגיים, מדובר בחסמים טכניים מהותיים. כדי לאפשר פעילות פיננסית אוטונומית, חובה לוודא, למשל, שהקוד שמריץ את הסוכן לא הוחלף בגרסה זדונית מרגע קבלת המנדט ועד לביצוע העסקה בפועל. בנוסף, מערכות פיננסיות ידרשו חגורות בטיחות אלגוריתמיות כדי למנוע הזיות או חריגות של מודלי שפה הסתברותיים. זהו דווקא כן אתגר טכנולוגי.

סוגיה מורכבת נוספת היא אינטראקציה בין סוכנים. אם כיום ישנן הנחיות ברורות כיצד מוכר אנושי צריך להתנהל מול לקוח (למשל, חובת גילוי נאות), כיצד נתמודד עם מצב שבו סוכן מכירות של בנק פועל מול סוכן רכש של צרכן? האם לסוכן של גוף פיננסי מותר טכנית להערים על סוכן של לקוח? הרגולטור יידרש להכריע האם חוקי הגנת הצרכן חלים כאשר הצד שהוטעה הוא אלגוריתם ולא אדם.

באשר לטענה כי רגולציה בנושא טרם קיימת, חשוב לדייק. אמירה זו מתעלמת מתהליכי חקיקה אקטיביים בעולם. חוק הבינה המלאכותית של האיחוד האירופי, EU AI Act, לדוגמה, כבר מתחיל להגדיר מסגרות אחריות ברורות למערכות מבוססות אלגוריתמים, וישפיע ישירות על אופן הפעלתם של סוכנים פיננסיים.

המעבר לכלכלת סוכנים ידרוש בניית מערכות יחסים שמבוססות על שקיפות ואמינות מחשוב. כדי לצלוח זאת, גופים יידרשו להוכיח שהאלגוריתמים שלהם פועלים בדיוק לפי המנדט שניתן להם וללא הטיות.

מה דעתכם? האם השוק יקבע את הסטנדרט לפני המחוקק, או שהרגולציה תכתיב את קצב הפיתוח? https://www.linkedin.com/feed/update/urn:li:activity:7442450952474882048/

מאמר תגובה על רגולציה בעידן הבינה המלאכותית

אצלנו ב- Mathematic.ai באמצעות מחקר אלגוריתמי יישומי נוכל להוסיף ולשפר יכולות AI Explainability. אנו מסייעים לארגונים להפוך מערכות מורכבות לשקופות ובטוחות, כדי להבטיח עמידה בדרישות הטכנולוגיות והרגולטוריות של המחר. רוצים להבין יותר?

דברו איתי:

שלמה יונה

מייסד ומדען ראשי, מתמטיקאי מחקר ופיתוח בע"מ

053-7326360

shlomo.yona@mathematic.ai 

https://mathematic.ai

פודקאסט על החברה ועליי, שלמה יונה, ואופן העבודה שלנו ואיתנו: A technical deep dive about Mathematic.ai