בינה מלאכותית בציות ובפיקוח
לקריאת מהדורת ה־PDF (5 עמודים)
ניטור עסקאות ופשיעה פיננסית
הציות הוא אחד התחומים המבטיחים והרגישים ביותר לשימוש בבינה מלאכותית. מערכות מסורתיות לניטור עסקאות מפיקות מספר רב של התראות, ורובן מתבררות כחסרות בסיס לאחר בדיקה ידנית. מודלים של למידת מכונה יכולים לדרג התראות לפי הסבירות שהן אמיתיות, לזהות דפוסים בין חשבונות ולנתח מידע לא מובנה, כגון ידיעות חדשותיות. הרשות המוניטרית של סינגפור (Monetary Authority of Singapore, MAS) ציינה כי בנקים משתמשים במודלים כאלה באופן נפוץ במערכות לאיסור הלבנת הון ובאיתור הונאות. הסכנה הרגולטורית סימטרית. מודל שמדכא התראות אמיתיות חושף את הבנק להפרות של כללי איסור הלבנת הון הנבחנים בחלק H. מודל שאינו יכול להסביר את תוצאתו קשה להגנה בפני רשות פיקוח או בית משפט. MAS מונה את הסיכון הרגולטורי בין הסיכונים העיקריים של בינה מלאכותית, ומביאה כדוגמה ביצועים חלשים של מודל המשמש לתמיכה במאמצים נגד הלבנת הון.1
גם הנתונים שעליהם נשענים מודלים כאלה השתנו. מאז 1 באפריל 2024 יכולים שישה בנקים מסחריים גדולים לשתף מידע על לקוחות המציגים מספר דגלים אדומים באמצעות COSMIC, פלטפורמה דיגיטלית ש־MAS השיקה יחד איתם מכוח Financial Services and Markets (Amendment) Act 2023. המיקוד הראשוני שלה הוא שימוש לרעה בתאגידים, שימוש לרעה במימון סחר ומימון הפצת נשק להשמדה המונית.2 פלטפורמה מסוג זה היא מקור לאותות מובנים שמודלים אנליטיים יכולים לנצל. המסגרת המשפטית שלה וחשיבותה למאבק בהלבנת הון נדונות בחלק H.
מודלים של צדדים שלישיים וריכוזיות
רוב המוסדות רוכשים את המודלים הגנרטיביים שלהם ממספר קטן של ספקים גלובליים. MAS זיהתה שלושה סיכונים הנובעים מכך: הטיות לא ידועות שמקורן בנתוני האימון המוקדם, חששות בתחום הגנת המידע וסיכון ריכוזיות, שבו מוסדות רבים תלויים באותם מודלים בסיסיים. הבנקים הגיבו בבדיקות מפצות, בתוכניות מגירה ובחוזים מעודכנים הכוללים ערבויות ביצוע, הגנת מידע, זכויות ביקורת והודעה כאשר ספק משלב בינה מלאכותית בשירות קיים.3
ההנחיות הסופיות מכריעות בעיקרון. ייתכן שמוסד לא יוכל לחייב ספק צד שלישי לאמץ נוהלי ניהול סיכונים איתנים. עם זאת הוא נותר אחראי לאופן השימוש בבינה מלאכותית של צד שלישי בתוך הארגון שלו ולהשפעה האפשרית על לקוחות ועל בעלי עניין אחרים.4 הכללים בדבר מיקור חוץ וניהול סיכוני טכנולוגיה, הנבחנים בפרק E.I, חלים במקביל.
אירועים, ניטור ותוכניות מגירה
ההנחיות מגדירות אירועי בינה מלאכותית כאירועים הכרוכים בכשל, בתקלה או בביצועים חלשים של המערכת או המודל שבבסיסם. MAS החליטה שלא לקבוע משטר דיווח נפרד לגביהם. המוסדות חייבים להמשיך לדווח על אירועים לפי הדרישות הקיימות בתחום סיכוני הטכנולוגיה והמשכיות העסקית, יהיה שורש הבעיה אשר יהיה. תוכניות מגירה נדרשות למקרי שימוש בעלי מהותיות סיכון גבוהה. מודלים המתעדכנים באופן אוטומטי, כגון מערכות למידת חיזוק, מחייבים ניטור הדוק יותר, משום שהתנהגותם עשויה להשתנות במהלך הפעולה ללא מעורבות אנושית.5
במערכות סוכניות הניטור אמור להשתרע על זרימות המידע ונתיבי ההחלטה לאורך תהליכי העבודה, לרבות תהליכי ההסקה, הפעולות שננקטו והכלים שבהם נעשה שימוש. ניטור כזה מאפשר למוסד לשחזר פעולות בודדות לאורך שרשראות של סוכנים ולאתר את מקור הכשל. MAS הציעה גם כי היקף הגישה לכלים ולמערכות ישמש ממד נוסף של מהותיות הסיכון, משום שסוכנים בעלי הרשאות רחבות עלולים להגביר את הסיכון לפגיעה בנתונים.6
השימוש של רשות הפיקוח עצמה בנתונים
MAS מיישמת ניתוח נתונים בעבודתה שלה מאז שיצרה את תפקיד מנהל הנתונים הראשי (Chief Data Officer), שבו כיהן David Hardoon בעת פרסום עקרונות FEAT. המפקחים משתמשים בכלים אנליטיים לעיבוד דיווחים רגולטוריים, לסינון דיווחים על עסקאות חשודות ולזיהוי דפוסים של שימוש לרעה בשוק.7 יחסי הפיקוח עצמם אינם משתנים בשל כלים אלה. הם מסייעים לרשות הפיקוח לבחור את המוסדות והעסקאות הראויים לתשומת לב, ואילו ההערכה נותרת שיקול דעת אנושי המופעל לפי החוקים המתוארים בפרק E.I.
הערות
- MAS, Information Paper, December 2024, פסקה 2.1: מודלים של למידת מכונה מבוססי עצי החלטה הם “commonly used in anti-money laundering (AML) systems to detect suspicious transactions, and in fraud detection systems” – MAS, Information Paper, December 2024, פסקה 2.2: “Regulatory risks, e.g., poor performance of AI used to support AML efforts could lead to non-compliance with regulations.” ↩
- MAS, “COSMIC” (mas.gov.sg, נצפה בנובמבר 2026): הושקה ב־1 באפריל 2024; המשתתפים DBS, OCBC, UOB, SCB, Citibank ו־HSBC; הבסיס המשפטי ב־Financial Services and Markets (Amendment) Act 2023 וב־Financial Services and Markets (Information Sharing Scheme for Prescribed Financial Institutions) Regulations 2024; שלושה תחומי סיכון. ↩
- MAS, Information Paper, December 2024, פסקה 7.2.1: הסיכונים מבינה מלאכותית של צד שלישי כוללים “unknown biases from pre-training data, data protection concerns, as well as concentration risks due to increased interdependencies” – MAS, Information Paper, December 2024, פסקה 7.2.2(a)–(d): בדיקות מפצות, תכנון מגירה, הסכמים משפטיים עם תניות בדבר “performance guarantees, data protection, the right to audit, and notification when AI is introduced”, ומאמצי הגברת מודעות. ↩
- MAS, Response to Feedback, 7 October 2026, פסקאות 9.3–9.4: המוסד הפיננסי “remains accountable for how third-party AI is used within its organisation”; “the onus is on the FI to ensure that risks arising from its use of third-party AI are appropriately managed”. ↩
- MAS, Response to Feedback, 7 October 2026, פסקה 10.69: הגדרת “AI incidents”; “MAS does not intend to introduce AI-specific incident reporting requirements at this juncture” – MAS, Response to Feedback, 7 October 2026, פסקאות 10.67 ו־10.70. ↩
- MAS, Response to Feedback, 7 October 2026, פסקה 12.8 – MAS, Response to Feedback, 7 October 2026, פסקה 7.7: מוסד פיננסי רשאי לשקול את “the extent of access to tools and systems granted as an additional dimension for AI risk materiality assessments of agentic AI”. ↩
- על השימוש של MAS בניתוח נתונים ובלמידת מכונה בפיקוח ובניתוח דיווחים על עסקאות חשודות ראו את הדוחות השנתיים של MAS משנת 2018/19 ואילך ואת נאומי בכירי MAS בנושא טכנולוגיית פיקוח. ↩
למידע כללי בלבד. מאמר זה אינו מהווה ייעוץ משפטי או ייעוץ מס, אינו מחליף ייעוץ במקרה פרטני ואינו יוצר יחסי עורך דין–לקוח. הוא משקף את המצב המשפטי נכון לחודש אוקטובר 2026.