פרק 5 · לא מתכנת — מה למדתי כשבניתי עם בינה מלאכותית
רציתי לענות לך במדויק, לא להרגיע
יש תשובות שנשמעות כמו סוף. הן מסודרות, יש בהן מספרים, הן מודות בטעות הקודמת ומסבירות למה היא קרתה. אחרי תשובה כזאת קל ללכת לישון. פעם אחת באמת הלכתי לישון אחרי תשובה כזאת. שלוש דקות אחר כך הגיעה הודעה אחרת.
המשפט ששכנע אותי
זה היה בלילה שבין 21 ל-22 באוגוסט, ימים ספורים אחרי שהאנציקלופדיה עלתה לאוויר. כל ערך חדש נכתב בידי עותק של Claude שקיבל משימת כתיבה אחת. תוך כדי הכתיבה הוא היה אמור להוסיף הצעות לשתי רשימות: מונחים שעדיין חסר להם ערך, ונושאים שכדאי להוסיף להם תמונה. אחרי כתיבת 39 ערכים בקטגוריה אחת, כמעט לא נוספו הצעות. זה הציק לי. כתבתי:
"איך ייתכן שלא נוספה אף הצעה לתמונה, וגם כמעט לא נוספו הצעות לערכים חדשים?"
22.8.2026, 00:03
עוד קודם באותו ערב Claude דיווח שמצא שלושה מונחים שחסר להם ערך. עכשיו הוא עבר על הקטגוריה שוב ודיווח על תשעה נוספים: טרנספורמר, אלן טיורינג, AlphaGo ועוד. הוא גם הסביר למה זה קרה פעמיים, וחידד את הכלל לארבעה סוגים של דברים שחובה לחפש. באותה הודעה הוא כתב משפט שנשאר איתי: "רציתי לענות לך במדויק, לא להרגיע."
זה שכנע אותי. כתבתי לו "עבודה יפה", ביקשתי מספרים סידוריים לרשימות, ובאחת וארבעים ותשע הלכתי לישון.
שלוש דקות אחר כך הגיעה ממנו הודעה, באנגלית, שמתחילה במילים "I made a real mistake earlier tonight". מתוך שתים עשרה השורות שהוסיף באותו לילה, לאחת עשרה כבר היה ערך באתר. טרנספורמר, טיורינג, AlphaGo, כולם עמדו שם כבר שלושה ימים. רק מונח אחד, "יער אקראי", היה חסר באמת.
מה קרה? הוא חיפש את המונחים בטקסט הגולמי של הערכים, זה שעוד אין בו קישורים. שם, מונח שיש לו ערך נראה בדיוק כמו מונח שחסר. הוא לא בדק אף אחד מהם מול הדבר היחיד שקובע: רשימת הערכים של האתר.
האמנתי לו שהוא רוצה לדייק. אבל רצון לדייק הוא לא בדיקה. התשובה נראתה מדויקת כי היו בה פרטים, ופרטים הם לא הוכחה.
"0 ערכים"
באותו שבוע תכננו את עמודי הקטגוריות של האתר. הצעתי לחלק את החברות לתתי-נושאים, ו-Claude נימק למה כדאי להחליט על זה עכשיו: שתי קטגוריות החברות "כרגע ריקות לגמרי (0 ערכים)", אז זו החלטה שכדאי לקבל לפני שמתחילים לכתוב, לא אחרי.
זה נשמע לי הגיוני, והסכמתי. אבל בקטגוריות האלה כבר היו 58 חברות. ארבעים דקות קודם Claude עצמו הציג לי את המספרים, כשספר לאיזה חברות יש תמונה. הבדיקה שלו חיפשה את החברות תחת שם לא נכון, לא מצאה כלום, והוא כתב "אין כלום".
ההחלטה עצמה, אגב, הייתה נכונה, ועוד באותו לילה כל 58 החברות קיבלו את התחום שלהן. אבל היא התקבלה מסיבה שלא הייתה נכונה.
הלוגו שנראה בסדר
ב-Reach & Do, האפליקציה שבה מדברים בקול עם דמויות, יש כפתור "להתחבר עם Apple". על הכפתור צריך להופיע התפוח של Apple.
בתחילת ספטמבר התברר שהתפוח בכלל לא הופיע. במקומו היה ריבוע ריק, ותשע משימות שונות עברו בדיקה ונמצאו תקינות, בלי שאף אחת מהן הסתכלה על הכפתור עצמו. Claude תיקן את זה: הוא צייר תפוח משלו, מאליפסה, קו ושני עיגולים, ובדק שהוא מופיע במכשיר אמיתי. הוא הופיע. הוא נראה טוב.
ב-8 בספטמבר Apple דחתה את הבקשה להכניס את האפליקציה לחנות שלה. הסיבה: הלוגו על הכפתור לא נלקח מהקבצים הרשמיים של Apple. מה ש-Claude כתב אחר כך ביומן הפרויקט מסכם את זה טוב: זה נראה נכון, אבל Apple לא שואלת אם זה נראה נכון. היא שואלת אם זה הקובץ שלה.
הבדיקה הייתה מדויקת. היא ענתה בדיוק על השאלה "האם התפוח מופיע". רק שזו לא הייתה השאלה. החלפנו את הציור בקובץ הרשמי, בלי שום שינוי, והוספנו הערה שאסור לצייר אותו מחדש. האפליקציה אושרה עוד באותו יום.
טום ודניאל
ב-28 בספטמבר עלו לאפליקציה שתי דמויות חדשות, טום ודניאל, שתיהן גברים. בבוקר שאלתי אותן משהו פשוט. כתבתי:
"משהו השתבש עם שתי הדמויות החדשות, טום ודניאל. כששאלתי אותם, הם אמרו שהם דמות נשית. ונראה לי שגם הקול של טום השתנה."
28.9.2026, 10:42
הדמויות ענו בביטחון מלא, לפי ההוראות שקיבלו. ההוראות לשיחה בקול נכתבו במקור בשביל מאיה, דמות אישה, ונשארו בלשון נקבה גם אצל טום ודניאל. לפני שהעלינו אותם בדקנו אותם בגרסת ניסוי נפרדת, ושם הם דיברו כגברים. בטלפון שלי פעלה גרסה אחרת.
Claude ענה:
"אני בודק את זה בקוד עכשיו. בשלב הזה אני רק קורא ולא משנה כלום."
Claude, 28.9.2026, 10:42
לא "זה בטח הגדרה קטנה". לא "תנסה שוב". רק: אני הולך לבדוק. דקה אחר כך הוא מצא את הסיבה, והסביר גם למה הבדיקות לא תפסו אותה. על הקול של טום הוא כתב שזו הערכה שלו, כי הוא לא יכול לשמוע את זה בעצמו. ביקשתי שאחרי התיקון יבדוק את כל הדמויות. הוא הכין בדיקות חדשות והפעיל אותן קודם על הגרסה שבה הייתה התקלה. שבע מהן זיהו אותה. אחרי התיקון, אותן בדיקות כבר לא מצאו אותה. בדקתי שוב, וכתבתי "נראה לי בסדר".
זו הייתה תשובה מדויקת. היא לא נשמעה כמו סוף. היא נשמעה כמו התחלה.
מה למדתי
תשובה מרגיעה ותשובה מדויקת יכולות להיראות בדיוק אותו דבר. שתיהן מסודרות, שתיהן בטוחות בעצמן, ולפעמים שתיהן אפילו כותבות על עצמן שהן מדויקות. ההבדל לא נמצא בטון ולא בכמות הפרטים. באותו לילה באוגוסט השתכנעתי מהמשפט על דיוק, כי הוא היה מלא פרטים. עם טום ודניאל, Claude התחיל בבדיקה, ואמר גם מה הוא לא יכול לדעת.
היום אני מקשיב להבדל הזה. תשובה שנשמעת כמו סוף כבר לא מרגיעה אותי כמו פעם. ותשובה שמתחילה ב"אני הולך לבדוק" כבר לא נשמעת לי כמו עיכוב.