האלגוריתם הפיננסי הכריע, מי יקבל את האחריות המשפטית?

בינה מלאכותית הפכה לגורם מכריע בשלל צמתים ויישומים במגזר הפיננסי | אולם כיצד ניתן להוכיח כי התבצעה אפליה, או להוכיח על מי לשאת באחריות לנזק שהחחולל כתוצאה מהחלטות האלגוריתם – כשאין כל גורם אנושי מאחורי ההחלטה? | קבוצת חוקרים מאוניברסיטת ת"א מפרסמם מחקר מרתק בנושא ועוסקים בפיקוח על אלגוריתמים בזמן אמת ובדיעבד ובעוד שלל סוגיות והיבטים

בינה מלאכותית. אילוסטרציה | צילום: whiteMocca, שאטרסטוק

הבינה המלאכותית במגזר הפיננסי הפכה לכלי שימושי מאין כמותו. אלגוריתמים ממתינים לנו בכל פינה ובנק, בית השקעות או מסחר בשווקי ההון. כעת, המחלקה הכלכלית בייעוץ וחקיקה במשרד המשפטים מפרסמת לעיון הציבור דוח בנושא בינה מלאכותית במגזר הפיננסי שנכתב על ידי חוקרים מאוניברסיטת ת״א. ממצאי הדוח והמלצותיו יבחנו בידי משרד המשפטים, האוצר והרגולטוריים הכלכליים. 

יישומי בינה מלאכותית עשויים לאתגר את התבניות המשפטיות הקיימות בשאלות סבוכות וקריטיות, כגון מי נושא באחריות לפעילות של אלגוריתם וכיצד מוכיחים אפליה כאשר אין גורם אנושי ״מאחורי״ ההחלטה. יישומים אלה מאתגרים גם את הכללים והמודלים של קביעת רגולציה ופיקוח בשאלות סבוכות לא פחות, כגון כיצד נותנים ״רישיון״ לאלגוריתם וכיצד מפקחים על פעילותו בזמן אמת ובדיעבד.  

שאלות אלה ואחרות הובילו את המחלקה הכלכלית בייעוץ וחקיקה לפרסם לפני כשנה קול קורא לעריכת דוח אשר יסקור את השימושים הנפוצים בבינה מלאכותית במגזר הפיננסי ויכלול המלצות לגבי האופן שבו גורמי המשפט, האסדרה והממשל צריכים להיערך לכניסה הנרחבת של טכנולוגיה זו לחיי היום-יום. 

מלאכת כתיבת הדוח נעשתה בידי צוות בינתחומי מהפקולטה לניהול ע״ש קולר והפקולטה למשפטים באוניברסיטת תל אביב, בהשתתפות ד"ר ארי אחיעז, פרופ' אסף חמדני, פרופ' דן עמירם, וד"ר קובי קסטיאל 

המדובר בדוח ייחודי בהיקפו, המציג לראשונה סקירה כוללת ויסודית של השימושים בבינה מלאכותית בכלל המגזר הפיננסי, האתגרים ששימושים אלה מעוררים וכן כיצד מדינות וארגונים בינלאומיים נערכים לאתגרים אלה. 

מן הדוח עולה, כי שימושי בינה מלאכותית, על מופעיה השונים, נפוצים במגוון שירותים פיננסיים:  אשראי, מסחר בניירות ערך, ייעוץ ושירות לקוחות. מחברי הדוח מדגימים כיצד שימוש בטכנולוגיות מתקדמות עשוי לשפר את פעילות הגופים הפיננסיים באופן שייטיב עם הציבור, כגון הגברת התחרות והרחבת הנגישות לשירותים. לצד זאת, המחברים מדגישים כי ישנם גם אתגרים מורכבים שיש להידרש אליהם. בין היתר, יש לבחון כיצד להחיל את המודלים של פיקוח ואסדרה, המניחים קיומה של החלטה אנושית, במציאות שבה ההחלטה מתקבלת בידי אלגוריתם.

מחברי הדוח ממליצים להתחשב בשיקולים הבאים בעת העיסוק בנושא: שימור האינטרסים הצרכניים והחברתיים בתחום הפיננסי; מעמדה של ישראל כמוקד חדשנות; עידוד שימושים שעשויים להיטיב עם הציבור ויצירת התנאים הרגולטוריים והמשפטיים לכך; והתאמת האסדרה בישראל לסטנדרטים בינלאומיים.

Inner article

 

המשנה ליועצת המשפטית לממשלה (משפט כלכלי), מאיר לוין, הציג את ממצאי הדוח לרגולטורים הכלכליים אשר הביעו את הסכמתם לבחון את ממצאי הדוח ולקיים חשיבה משותפת על אופן ההתמודדות עם האתגרים המוצגים בו. 

היועצת המשפטית לממשלה, עו"ד גלי בהרב-מיארה: "הדוח מהווה אבן דרך חשובה לקראת הסדרת תחום הבינה המלאכותית במדינת ישראל ואני מברכת על העבודה החשובה ומודה לכל העושים במלאכה" 

המשנה ליועצת המשפטית לממשלה (משפט כלכלי), עו"ד מאיר לוין: ״הבינה המלאכותית מצויה בקדמת הטכנולוגיה, והיא בעלת פוטנציאל הולך וגובר להשפעה על חיינו. כפי שעולה מן הדוח, השימוש בבינה מלאכותית הוא כבר נפוץ בתחום הפיננסי ומעלה הזדמנויות ואתגרים אשר נמצאים במוקד השיח המשפטי והמקצועי במדינות וארגונים בין לאומייםהמשך הדיון ייעשה בתוך הקונטקסט הרחב של העבודה הממשלתית בנושא, לרבות העבודה שמובלת על ידי משרד החדשנות, המדע והטכנולוגיה המגבש תכנית לאומית בנושא".

מחברי הדוח, ד"ר אחיעז, פרופ' חמדני, פרופ' עמירם, וד"ר קסטיאל: "ליישומי בינה מלאכותית בתחום הפיננסי יש פוטנציאל לשכלל את התחרות ולהגביר את הנגישות של הציבור למגוון רחב של שירותים פיננסיים. עם זאת, יישומים אלו מציבים אתגרים מורכבים בפני גורמי הפיקוח והאסדרה. על מנת לקדם חדשנות ולאפשר לציבור הרחב ליהנות מהיתרונות הגלומים בטכנולוגיה זו בהקדם האפשרי נדרשת היערכות משפטית ופעילות מתואמת של גורמי הפיקוח והאסדרה בישראל".

Inner 620/130

מומלץ עבורך

כתיבת תגובה