השפעתם של מודלי שפה גדולים על הכתיבה האנושית

כיף גדול שיש מודלי שפה ושקל מאוד להתבטא וקל מאוד להתנסח ואפילו, כמו שרואים ברשתות החברתיות, לא להתנסח בכלל אלא לתת למודל השפה לכתוב (זה גם נראה ככה, שתדעו...). העניין הוא שלהשענות על מודלי שפה, במיוחד ללא ביקורת אנושית וללא התערבות אנושית וללא ניסוח מחדש או לפחות הגהה ועריכה מחדש, מה שמקבלים זה עיוות הולך וגובר גם של השפה וגם השלכות נוספות של משמעות.

מאמר שפורסם בשבוע האחרון מתייחס לנושא הזה. הקישור למאמר בתגובה הראשונה. המאמר בוחן את השפעתם של מודלי שפה גדולים על הכתיבה האנושית. המסקנה המרכזית היא שמודלי שפה אינם מסתפקים בשינוי המבנה התחבירי או הסגנוני של הטקסט, אלא משנים בעקביות את המשמעות הסמנטית ואת כוונת הכותב. המחקר מראה כי שימוש נרחב בכלים אלו גורם להומוגניזציה של הטקסט, דוחק כותבים לנקוט עמדות ניטרליות יותר, ומפחית את ייחודיות הקול האישי. כמו כן, נמצא כי השפעות אלו קיימות גם בסביבות מקצועיות, כגון כתיבת ביקורות עמיתים אקדמיות, שם המודלים נוטים לשנות את קריטריוני ההערכה ולהעניק ציונים גבוהים יותר מהממוצע האנושי.

מה אני אוהב במאמר? המאמר מציג מערך מחקרי יציב המשלב ניסוי מבוקר עם נתוני אמת מהשטח, מה שמאפשר לבחון גם סביבת מעבדה וגם השלכות בעולם האמיתי. השימוש במדדים מגוונים, כגון מרחקים סמנטיים, שונות לקסיקלית וניתוח חלקי דיבר, מספק תמונה כמותית מפורטת למנגנוני השינוי.

מה אינני אוהב במאמר? המחקר לוקה במספר נקודות הנוגעות לאיומי תוקף. סיווג ביקורות העמיתים ב-ICLR נשען על כלי זיהוי אוטומטי, Pangram, שיש בו שיעור שגיאה מובנה שעשוי להטות את המדגם. בנוסף, הנטייה של המודלים להפיק טקסט ניטרלי אינה בהכרח תכונה טבעית של ארכיטקטורת המודל, אלא ככל הנראה תוצר של תהליכי יישור בטיחותיים שמיושמים על מודלים מסחריים ספציפיים. על כן, ייתכן שהמסקנות משקפות מדיניות של חברות פיתוח ולא מאפיין הכרחי של הטכנולוגיה. 

המאמר מציג תשתית מחקרית רחבה ועבודה מתודולוגית יסודית לבחינת אחד הנושאים הבוערים בעולם הדיגיטלי כיום, השפעת בינה מלאכותית על הכתיבה. מסקנות המחקר מצביעות על תופעה רחבה של דפורמציה סמנטית. נמצא שכלי עזר מבוססי מודלי שפה אינם פועלים כעורכים ניטרליים לשיפור התחביר, אלא מעצבים מחדש את תוכן הטיעונים, מוחקים את קולו הייחודי של הכותב ומייצרים טקסט אחיד וחסר נחרצות. תופעה זו חודרת אף להערכות מקצועיות בעולם האקדמי, תוך שינוי של קריטריוני השיפוט ללא בקרה. עם זאת, חשוב לבחון את הממצאים בעין ביקורתית. הסתמכותו של החלק התצפיתי במחקר על אלגוריתמים לזיהוי טקסט אוטומטי עלולה להכניס למדגם הטיות מדידה משמעותיות. נוסף על כך, התנהגות המודלים, כפי שהיא משתקפת במחקר, נובעת ככל הנראה מתהליכי הכוונה שבוצעו על ידי החברות המפתחות, ואינה גזרת גורל טכנולוגית. למרות ההסתייגויות הללו, המחקר מהווה תרומה חשובה וניתוח כמותי קפדני שמציב תמרור אזהרה באשר לאופן שבו אנו מאמצים טכנולוגיות כתיבה חדשות.

תסתכלו איך נראה הפיד שלכם ברשתות החברתיות... חלק כותבים לפי מתכון, חלק פשוט מעתיקים ומדביקים את מה שה-AI כתב להם... זה לא רק משעמם זה גם מביך. תכתבו בקול שלכם, במילים שלכם את המחשבות שלכם. זה נהדר להעזר ב-AI כדי להתייעל, כדי לחקור, כדי לסכם, כדי להבין, כדי להתנסח, כדי להתייעץ וכדי לחפש שגיאות ולתקן אותן. אבל אם אתם כותבים כדי שישמעו אתכם ואת דעתכם, לא כדאי שבאמת אתם תכתבו ושהדיעה תהיה שלכם?

https://arxiv.org/abs/2603.18161

השפעתם של מודלי שפה גדולים על הכתיבה האנושית

צריכים עזרה בעיבוד שפה טבעית? בבלשנות חישובית? מחקר אלגוריתמי יישומי? עבודה עם מודלי שפה? דברו איתי:

שלמה יונה

מייסד ומדען ראשי, מתמטיקאי מחקר ופיתוח בע"מ

053-7326360

shlomo.yona@mathematic.ai 

https://mathematic.ai

פודקאסט על החברה ועליי, שלמה יונה, ואופן העבודה שלנו ואיתנו: A technical deep dive about Mathematic.ai