ערכים של חופש, אסטרטגיה כוחנית: הקוד הפתוח של מטא לא באמת פתוח

בשבוע שעבר הודיעה מטא כי היא משחררת את Code Llama, מודל חדש שמיועד לתכנות ושימושים מסחריים אחרים. Code Llama, הקפידה לציין מטא בפוסט בבלוג, פתוח לשימוש חופשי ונועד "לתמוך במהנדסי תוכנה בכל המגזרים - כולל מחקר, תעשייה, פרויקטים של קוד פתוח, ארגונים לא ממשלתיים ועסקים".

הדגש על "פתוח" כאילו הוא מילה נרדפת ל"חופשי" היה נוכח בכל ההודעות לעיתונות וצוטט בהרחבה כאירוע ראוי לציון ללא כל מחלוקת. אפשר היה ממש לדמיין שהענקית הטכנולוגית קיבלה החלטה ערכית חריגה בסביבה תחרותית, ובמקום לנצל את הגודל שלה כדי להשתלט על המהפכה הטכנולוגית הבאה, היא מגלה "ריסון עצמי", "הבנה עמוקה" או "אחריות" לרגע הקריטי הנוכחי ונוקטת גישה של שקיפות.

הבחירה מכוונת. שקיפות היא קריטריון נחשק היום בתחום שנחשב, מצד אחד, "קופסה שחורה" שלא ניתן להסביר אותו, ועמדה פתוחה לרוב מאפשרת גישה לידע הנוגע למערכי הנתונים, שיטות אימון והחלטות אחרות, וכל אלו מאפשרים פיקוח, בקרה וביקורת על המודלים. מצד שני, זהו תחום בעל חשיבות מכרעת לעיצוב החיים החברתיים, הכלכליים והפוליטיים.

הגישה ה"פתוחה" במובן זה גם מגשרת על בעיית העלויות הגדולות של התחום בכך שלכאורה היא מציעה את התוצרים גם לשחקנים קטנים ב"חינם". במובנים אלו "פתוח" מאותת לרגולטורים שהיא מכירה בבעיית ריכוז הכוח ופועלת לצמצמו. מטא היא כמובן לא הראשונה. המתחרה OpenAI קמה ב־2015 ואת מחויבותה לפתיחות הטביעו מייסדיה בשמה (אף שמאז זנחה את הפתיחות הזו). אלון מאסק גם הוא הצהיר לא אחת כי יהפוך את טוויטר ל"קוד פתוח", ולאחרונה הודיע כי יעשה דבר דומה גם בטסלה.

בסך הכל נראה מעודד. קוד פתוח, פתיחות ושקיפות הם הרעיונות המייסדים לחלקים נרחבים באינטרנט, והכלי שבו תנועת "התוכנה החופשית" השתמשה כדי לקדם הגדרה עצמית טכנולוגית מאז שנות השמונים. מה שלכאורה היה מעצים אותנו ככלל, לפי החוקר קורי דוקטורו, לא רק לקבוע "מה הטכנולוגיה עושה", אלא גם היה מייצר בידינו סוכנות גדולה כדי להחליט "למי היא עושה את זה ובשביל מי".

חזרה לרעיונות אלו על ידי חברות שפועלות בנחישות רק למטרות רווח לכאורה לא רק תהפוך את תחום הבינה המלאכותית לדמוקרטי יותר, אלא גם תזריק חדשנות בריאה לתחום. כשזה מגיע בהתנדבות מענקיות כמו מטא, OpenAI, שמיקרוסופט משקיעה בה, והאיש העשיר בעולם אלון מאסק, זה נשמע כמו חלום. בפועל, זה באמת חלום - חוקרים מאוניברסיטת קרנגי מלון, מכון AI Now וקרן סיגנל טוענים במחקר חדש שאף שהמודלים ממותגים כ"פתוחים", הם לא כאלה.

כך, למשל, הם מסבירים שאולי אפשר להוריד, לשנות ולפרוס את Llama בחינם, אבל הרישיון של מטא אוסר את השימוש בו כדי להכשיר דגמי שפה אחרים, והוא דורש רישיון מיוחד נוסף אם מפתח רוצה לפרוס אותו באפליקציה או שירות שבו מעל 700 משתמשים יומיים. חלק מהחברות שטוענות לקוד פתוח גם לא חושפות את כל המידע הרלבנטי כמו האופן שבו אומנו הנתונים, ולא מייצרות מספיק ידע פתוח כדי לשחזר את בניית המודלים, ולכן לא מאפשרות ביקורת טובה עליהם. ה"פתיחות" מנגד מושכת מפתחים לעבוד במסגרת המגבלות הללו ולחדש בתוך אקו־סיסטם ספציפי, מה שמייצר יתרונות משמעותיים לחברות הגדולות, מחזק את כוחן ובפועל מצמצם בטווח הארוך תחרות.

פתיחות, הם טוענים במחקר, אינה חופש או חירות, אלא אסטרטגיה לבסס כוח: "היא מאפשרת למטא, לגוגל ולאלה שמנהלים את פיתוח המסגרת לבצע סטנדרטיזציית פיתוח שתותאם לפלטפורמות החברה שלהם. מה שמבטיח שהמסגרת שלהם מובילה את המפתחים ליצור מערכות בינה מלאכותית דמויות לגו, שמתחברות למקומן עם פלטפורמות החברה".

ככה "פתוח" ו"חינם" בעצם "סוגרים" מפתחים בסביבה מסוימת תוך הוספת ערך לדואופול שמחזק בכך את כוחו. מזכר פנימי מגוגל שדלף בנוגע לתחרות מול OpenAI ציין זאת בעצמו: "לא ניתן להפריז בערך של בעלות על המערכת האקולוגית". לכידות מערכת כזו בתחום החיפוש, הנייד והפרסום, כולם אירחו קוד פתוח, תרמה ישירות לדומיננטיות העולמית של גוגל.

זו אינה טקטיקה חדשה. קחו לדוגמה את אנדרואיד, מערכת ההפעלה שרכשה גוגל ושחררה כקוד פתוח ב־2007. כך היא הציבה אלטרנטיבה לאפל ומשכה עניין ממפתחים שהקדישו את זמנם ליצירה ותחזוקה של אפליקציות לאנדרואיד. אלה, בתורם, הפכו את מערכת ההפעלה לאטרקטיבית יותר עבור צרכנים.

והבעיה לא תמה כאן. "שיווק סביב פתיחות והשקעה במערכות בינה מלאכותית פתוחות", הם כותבים, "ממונף על ידי חברות חזקות כדי לבסס את עמדותיהן מול העניין הגובר לרגולציה בתחום". לטענתם, השימוש במילה "פתוח" מטעה את הציבור ומנסה להשפיע על רגולטורים ברחבי העולם לא להטיל מגבלות רגולטוריות מתאימות לשחקנים שאין ספק שפועלים כאוליגופול בתחום.

באירופה נקודה זו דומיננטית במיוחד, שם כבר הוצעה חקיקה מתקדמת בנושא בינה מלאכותית, והתעשייה פועלת בלחץ על הרגולטורים לתקן אותה כך שלא תהיה כבדה מדי על פרויקטים של קוד פתוח, שלכאורה מייצרים שדה תחרותי בריא יותר.

על פניו זה יכול להישמע מעט קטנוני, הרי מה זה באמת "מודל פתוח", היכן שמים את הגבול? אולי אלו ממש מגבלות סבירות כשלוקחים בחשבון שמטא לא רוצה להעניק סודות מסחריים שהיא משקיעה עשרות מיליוני דולרים בפיתוחם. היא במיוחד לא רוצה להעניק אותם בחינם וללא כל תנאי למי שיכול להיות תחרות. אך אם בינה מלאכותית היא אחת הטכנולוגיות החשובות ביותר בעולם, האם אנו מעוניינים כי היא תהיה בשליטת מעטים? האם לא למדנו דבר מעידן הרשתות החברתיות, שכוח שמרוכז בידי קומץ חברות שכל תכליתן הוא לייצר רווחים רבים ככל הניתן יכול ממש לפגוע ברכיבים בסיסיים של החיים החברתיים? לא רק זאת, טוענים במחקר, אלא שדווקא היתרונות העצומים ש"קוד פתוח" מייצר לחברות הוא שדחף לצורת השיווק הזה.

הבעיה אינה רק ניסיון לסמא את עיני הרגולטור במילים עם מטען רגשי חיובי כמו "פתוח", אלא סתירת הרעיון שפתיחות מנסה לקדם. המטרה המקורית היתה לקדם חופש ופתיחות במסגרת צרה של קוד או מודל שבבסיסם הרעיון של "חינם". אך בפועל הדבר לא מביא ל"דמוקרטיזציה" של הטכנולוגיה, אלא רק מקדם אותה במסלולים מוגדרים ומוגבלים מראש. כך שוב אנחנו נדרשים לסמוך על הכיוון שקבעו החברות הגדולות, עם ה"פריבילגיה" לראות את הדרך שלפנינו, ואולי להציע להן כמה שיפורים, שדרוגים או שימושים חדשים. אך הפעם הסיכון גדול יותר, כי מדובר במערכות שמשולבות בתחומים רגישים עם השפעה ציבורית עמוקה על בריאות, חינוך, ממשל, רווחה ופיננסים. אלו השפעות, מציינים החוקרים את המובן מאליו, "שלא אמורות להיקבע על ידי קומץ קטן של חברות עם מוטיבציה מוכוונת רווחים".