רגולציה על בינה מלאכותית: מה עסקים ישראליים צריכים להכין כבר עכשיו

בתוך זמן קצר מאוד הפכו כלי הבינה המלאכותית ממשהו שמדברים עליו בכנסים לחלק משגרת העבודה בעסקים רבים. צ'אטבוטים עונים ללקוחות, מערכות מסננות קורות חיים ותוכנות מנסחות הצעות מחיר. בעקבות המהפכה הזאת מגיע גם הרגולטור. מדינות וגושים כלכליים ברחבי העולם מגבשים כללים לשימוש בבינה מלאכותית, ועסקים ישראליים, גם קטנים, יעשו טוב אם יכירו את הכיוון כבר עכשיו.

למה בכלל צריך רגולציה

בינה מלאכותית מעוררת כמה חששות מרכזיים שחוזרים בכל הדיונים. הראשון הוא הטיה: מערכת שלמדה מנתונים היסטוריים עלולה לשכפל אפליה, למשל בגיוס עובדים או במתן אשראי. השני הוא שקיפות: לקוח שמדבר עם בוט או מקבל החלטה ממערכת אוטומטית רוצה לדעת את זה. השלישי הוא פרטיות, שכן מערכות כאלה צורכות כמויות עצומות של מידע, חלקו אישי ורגיש.

לצד אלה עולות שאלות של אחריות. מי אחראי כשמערכת ממליצה המלצה שגויה שגורמת נזק? המפתח, העסק שהטמיע אותה או המשתמש? רגולציה נועדה לתת תשובות ברורות יותר לשאלות האלה, וליצור סביבה שבה אפשר לחדש בלי לפגוע בציבור.

הגישה האירופית: חלוקה לפי רמת סיכון

האיחוד האירופי הוביל את המגמה עם חקיקה מקיפה, שהגישה המרכזית בה היא חלוקה של שימושים לפי רמת סיכון. שימושים מסוימים נחשבים בעייתיים במיוחד ומוגבלים מאוד. שימושים בעלי סיכון גבוה, כמו מערכות שמשפיעות על תעסוקה, חינוך או גישה לשירותים חיוניים, כפופים לדרישות מחמירות של תיעוד, פיקוח אנושי ובקרת איכות. שימושים אחרים נדרשים בעיקר בשקיפות.

למה זה נוגע לעסק ישראלי? כי חברות רבות כאן מוכרות מוצרים ושירותים ללקוחות באירופה. בדומה לרגולציית הפרטיות האירופית, גם כאן הכללים חלים לרוב על מי שפונה לשוק האירופי, גם אם המשרד נמצא בתל אביב או בבאר שבע.

מה קורה בישראל

בישראל נבחרה עד כה גישה זהירה יותר, שמעדיפה הנחיות ועקרונות על פני חוק אחד גורף. הרעיון הוא לאפשר לכל רגולטור בתחומו, למשל בפיננסים, בבריאות או בהגנת הפרטיות, להתאים את הכללים לענף שלו. במקביל, הרשות להגנת הפרטיות עוסקת יותר ויותר בשאלות של שימוש במידע אישי במערכות חכמות.

המשמעות המעשית היא שעסק ישראלי לא צריך לחכות לחוק ייעודי כדי להיות מחויב לכללים. דיני הפרטיות, הגנת הצרכן, איסור האפליה וזכויות היוצרים חלים גם כשהכלי שבו משתמשים הוא בינה מלאכותית. ההנחיות החדשות בעיקר מבהירות איך החוקים הקיימים מתיישמים בעולם החדש.

איפה עסקים קטנים עלולים להסתבך

רוב העסקים הקטנים לא מפתחים מודלים בעצמם, אלא משתמשים בכלים קיימים. ובכל זאת יש כמה נקודות רגישות שכדאי להכיר:

• הזנת מידע אישי של לקוחות או עובדים לכלים חיצוניים בלי לבדוק איפה המידע נשמר ולמה הוא משמש.
• שימוש בבוט שירות בלי להבהיר ללקוח שהוא משוחח עם מערכת אוטומטית.
• סינון מועמדים לעבודה באמצעות כלי אוטומטי שאינו מבוקר ועלול להפלות.
• פרסום תוכן שנוצר באמצעות בינה מלאכותית בלי לבדוק עובדות או זכויות יוצרים.
• הסתמכות על המלצה אוטומטית בתחומים רגישים כמו בריאות, משפט או כספים.

צעדים מעשיים להתכוננות

הצעד הראשון הוא פשוט מיפוי: לרשום אילו כלים מבוססי בינה מלאכותית משמשים בעסק, מי משתמש בהם ולאיזו מטרה. רבים מופתעים לגלות כמה כלים כאלה כבר נכנסו לשגרה בלי שמישהו קיבל החלטה מסודרת. המיפוי הזה הוא הבסיס לכל השאר.

הצעד השני הוא קביעת מדיניות פנימית קצרה וברורה. מה מותר להזין לכלים חיצוניים ומה אסור, מי מאשר שימוש בכלי חדש, ואיך מוודאים שאדם בודק את התוצרים לפני שהם יוצאים ללקוח. מדיניות של עמוד אחד שהעובדים באמת קוראים שווה יותר ממסמך ארוך שאיש לא פותח.

הצעד השלישי הוא בדיקת הספקים. כשבוחרים כלי, כדאי לשאול היכן נשמר המידע, האם הוא משמש לאימון המודל והאם אפשר לבטל זאת. עסקים שפועלים בתחומים רגישים או מול לקוחות באירופה יעשו נכון אם יתייעצו עם עורך דין שמתמחה בטכנולוגיה ופרטיות.

רגולציה כהזדמנות

קל לראות ברגולציה רק עוד נטל בירוקרטי, אבל יש בה גם צד חיובי. לקוחות הולכים ונעשים מודעים לשאלות של פרטיות ושקיפות, ועסק שיכול להסביר בבירור איך הוא משתמש בטכנולוגיה זוכה באמון. בתחרות על לקוחות עסקיים, במיוחד בחו"ל, היכולת להציג נהלים מסודרים הופכת ליתרון של ממש.

זכויות יוצרים ותוכן שנוצר במכונה

תחום נוסף שמעורר שאלות רבות הוא זכויות היוצרים. כלי בינה מלאכותית יכולים לייצר טקסטים, תמונות וקוד בתוך שניות, אבל לא תמיד ברור מי הבעלים של התוצר, והאם הוא אינו מבוסס בצורה בעייתית על יצירות של אחרים. עסקים שמשתמשים בתוכן כזה בפרסום, באריזות או באתר צריכים להיות מודעים לסיכון.

המלצה מעשית היא להתייחס לתוצר של כלי בינה מלאכותית כאל טיוטה ולא כאל מוצר מוגמר. עורכים, משנים, מוסיפים ידע מקצועי ובודקים שאין בתוצר דמיון חשוד ליצירה קיימת. בנוסף, כדאי לקרוא את תנאי השימוש של הכלי, שכן חלק מהם קובעים כללים לגבי שימוש מסחרי.

תיעוד ופיקוח אנושי

אחד העקרונות שחוזרים כמעט בכל מסגרת רגולטורית הוא פיקוח אנושי. המשמעות היא שבהחלטות בעלות השפעה ממשית על אנשים, אדם צריך להיות מעורב, להבין את ההמלצה של המערכת ולהיות מסוגל לשנות אותה. עסק שמשתמש בכלי אוטומטי לאישור הלוואות, למתן הנחות או לסינון לקוחות צריך לוודא שקיים מנגנון כזה.

גם תיעוד הוא חלק חשוב. שמירה על רישום פשוט של אילו כלים הוטמעו, מתי ולאיזו מטרה, תעזור מאוד אם יגיע בעתיד בירור מצד לקוח או רגולטור. עסק שיכול להראות שחשב על הנושא מראש נמצא בעמדה טובה הרבה יותר מעסק שמאלתר תשובות.

לסיכום, הרגולציה על בינה מלאכותית עדיין מתגבשת, אבל הכיוון ברור: יותר שקיפות, יותר אחריות ויותר הגנה על מידע אישי. עסקים שיתחילו כבר עכשיו במיפוי, במדיניות פנימית ובבחירה זהירה של כלים, ימצאו את עצמם מוכנים כשהכללים יתהדקו, ובינתיים גם ייהנו מאמון גבוה יותר של הלקוחות.