פרק 4 · לא מתכנת — מה למדתי כשבניתי עם בינה מלאכותית
הלילה שרץ לבד
בלילה שבין 21 ל-22 באוגוסט נכתבה ב-Wiki-AI קטגוריה שלמה, נבדקה ותועדה, בזמן שאני ישנתי. בבוקר הספיק לי קליק אחד כדי למצוא את מה ששלושה סוכנים לא מצאו.
לילה טוב
בשעה אחת וחמישים בערך כתבתי שאני הולך לישון, ושאלתי אם Claude רוצה להמשיך לעבוד על הקטגוריה הבאה בזמן שאני ישן. הקטגוריה הבאה הייתה "מודלים ושפה": 45 מושגים מהעולם שמאחורי צ'אטבוטים כמו ChatGPT. "טוקן", "טרנספורמר", "הזיה".
Claude שלח לעבודה סוכן כותב, כלומר עוד עותק של עצמו שעובד ברקע על משימה אחת. ההוראות קבעו שהסוכן רק כותב, ושאת ההחלטה אם להכניס את העבודה לאתר החי משאירים לי. לפני שהלכתי לישון הוא כתב לי "קטגוריה הבאה — כן, אני עובד עליה הלילה", וסיים ב"תישן טוב. 🌙".
מה קרה בזמן שישנתי
בין שתיים לשתיים וחצי כתב הסוכן את כל 45 הערכים ושמר אותם בשש קבוצות. בשתיים וחצי דיווח: 45 מתוך 45.
דקה אחר כך Claude שלח בודק עצמאי. הוא לא קיבל שום הקשר מהסוכן שכתב, ובהוראות שלו נכתב שזו "בדיקה עיוורת ואמיתית, לא אישור-גומי". הבודק מצא שבעה ערכים שבהם ראשי תיבות לא הוסברו, הם תוקנו, ובסוף: 45 מתוך 45 נקיים.
הבודק גם מצא משהו מצחיק. באתר לא היה ערך על Claude. השם שלו הופיע ב-8 מתוך 45 הערכים החדשים, אבל עמוד משלו לא היה. האתר כתב על Claude בשמונה מקומות, ומי שכתב את הערכים, וגם מי שבדק אותם, היה Claude.
סוכן שלישי נשלח לצלם את כל 45 העמודים ולכתוב דוח. בשלוש ושבע דקות הגיע הסיכום: הקטגוריה "נקייה לגמרי — 45/45, אפס ממצאים פתוחים", והעבודה מחכה לי.
בוקר טוב
בחמש וחצי בבוקר כתבתי "בוקר טוב, מה המצב עם הקטגוריה?". Claude הכין את העבודה לכניסה לאתר, ושתי דקות אחר כך עניתי לו:
gq">"cae,h ,nzd"
22.8.2026, 05:35
המקלדת הייתה על אנגלית. המילה השנייה, אם מקלידים אותה במקלדת עברית, היא "תמזג". Claude הבין, ומיזג.
שמונה דקות אחר כך, לפני שהמשכנו לקטגוריה הבאה, עשיתי משהו פשוט. נכנסתי לערך "טוקן" ולחצתי על המקור שבתחתית הערך.
gq">"לפני זה שאלה כשמפנים למקורות בדקתי בערך טוקן ההפניה היא לא למקור אמיתי תבדוק בבקשה לפני שנמשיך"
22.8.2026, 05:43
Claude בדק. המקור דווקא היה אמיתי. אבל הוא ענה: "בדקתי, ואתה צודק שיש כאן בעיה — אבל היא שונה ממה שחשבת, וגדולה יותר."
בשתי הקטגוריות הקודמות רוב המקורות היו ערכים בוויקיפדיה. בקטגוריה של הלילה, 36 מתוך 45 היו מאמרים מדעיים מאתר שבו חוקרים מפרסמים מחקרים. מאמרים אמיתיים לגמרי, אבל לא משהו שקורא רגיל יכול לפתוח וללמוד ממנו. Claude ניסח את זה טוב ממני: "זה מקור שמוכיח שהעובדה נכונה, לא מקור שאפשר ללכת אליו ולקרוא."
אף אחד לא החליט על השינוי הזה. הכללים אמרו "מקור אמיתי אחד לפחות", ולא אמרו איזה מקור. שלושה סוכנים עבדו כל הלילה, הדוח אמר 45 מתוך 45, ואת הבעיה מצא אדם אחד שלחץ על קישור אחד, כי רצה לדעת לאן הוא מוביל.
חודש אחר כך, במקום אחר
ב-20 בספטמבר זה קרה שוב, בפרויקט אחר לגמרי. באפליקציה שבה מדברים עם דמויות העלינו באותו יום תשלום לפי דקות. ואז, בכל לחיצה על אחת הדמויות, הטלפון הציג "This page couldn't load".
השרת אמר שהכול בסדר. כל הבדיקות האוטומטיות עברו, ירוק. בדיוק כמו "45 מתוך 45" של אותו לילה.
שמונה עשרה השערות נבדקו, וכולן נפלו. כולן חיפשו בשרת, כי שם היה מידע. אבל התקלה הייתה בטלפון, במקום שבו המשתמש באמת נמצא, ושם לא ראינו מה קורה. רק כשבנינו כלי קטן שמראה מה קורה בטלפון ברגע שהדף נופל, היא נמצאה, בלחיצה הראשונה: שורה אחת של קוד שנכתבה במקום הלא נכון.
ובאותו יום התגלה עוד משהו, שדווקא הוא נשאר איתי. כפתור אחד הופיע על המסך מוקדם מדי. הוא היה בארבעה מצילומי המסך ששלחתי בעצמי, ואף אחד מאיתנו לא ראה אותו. חיפשתי את הסיבה לנפילה, ולא שמתי לב לכפתור.
מה למדתי
"הכול נקי" הוא משפט על מה שנבדק, לא על מה שקיים. מכונה יכולה לעבוד כל הלילה, לבדוק את עצמה שלוש פעמים ולהגיע ל-45 מתוך 45, וזה אמיתי. אבל היא בודקת את מה שאמרו לה לבדוק.
כשאומרים לי שהכול נקי, יש עוד שאלה שצריך לשאול: מה הקורא יראה כשיפתח את הדבר עצמו? ולפעמים מי שצריך לפתוח אותו הוא אני.