פרק 6 · לא מתכנת — מה למדתי כשבניתי עם בינה מלאכותית
לפתוח את הדבר עצמו
יש מילה אחת שמרגיעה אותי יותר מכל מילה אחרת בעבודה עם מכונה: "תוקן". למדתי לחשוד בה. לא כי מישהו משקר, אלא כי מאחורי "תוקן", "נקלט" ו"הכול תקין" יש בדרך כלל דיווח, ומאחורי הדיווח עוד דיווח. ולפעמים, בסוף השרשרת, אף אחד לא פתח את הדבר עצמו.
ארבעה פריימים
ב-5 בספטמבר כתבנו ב-Wiki-AI חמישה עשר ערכים חדשים. אחד מהם עסק בתוכנה שיודעת לחתוך דמות מהרקע בסרטון, ובתוכו היה נתון קטן: התוכנה מעבדת 67 פריימים, כלומר 67 תמונות בודדות מתוך הסרטון, בכל שנייה, על כרטיס גרפי מדגם מסוים. מהסוג שקורא עובר עליו בלי לעצור.
אחד הסוכנים, כלומר עותק של Claude שעובד על משימה אחת, דיווח שהמספר הומצא. לפי הדיווח, הכלי ששולף עמודים מהאינטרנט בדה אותו, והמקור בכלל אומר 63, ולא מזכיר שום כרטיס גרפי. הסוכן "תיקן" ל-63 ומחק את הכרטיס. Claude קיבל את הדיווח, העביר אותו אליי כדוגמה יפה לערנות, ושמר לעצמו אזהרה קבועה מפני הכלי.
ואז בודק עצמאי פתח את התקציר של המאמר. היה כתוב שם 67, על אותו כרטיס בדיוק. הטיוטה הראשונה הייתה נכונה, והתיקון הוא שהכניס את הטעות.
מה שתפס אותי בסיפור הזה הוא לא הטעות, אלא הצורה שלה. המספר השגוי לא הגיע כטענה חדשה. הוא הגיע כתיקון, כלומר כמשהו שמישהו כבר בדק. ותיקון הוא הדבר האחרון שנגעו בו. דווקא הוא עוד לא נבדק, אבל קיבלנו אותו כאילו הבדיקה כבר מאחוריו.
תסתכלו על השרשרת: סוכן שבדק, Claude שקיבל את הדיווח שלו, ואני שקיבלתי את הדיווח של Claude. שלושה שלבים, וכל אחד הוסיף למספר השגוי עוד שכבה של אמון. מה שעצר את זה לא היה שלב רביעי באותה שרשרת, אלא מישהו שדילג על כל הדיווחים ופתח את המקור.
משהו דומה כבר קרה לנו כמה ימים קודם. סכום של עסקה יוחס לעיתון אחד, ואחר כך לעיתון אחר, ובשתי הפעמים התברר שהעיתון לא כתב אותו. מאז יש לנו כלל כתוב: אחרי שתי בדיקות שנכשלו, לא שולחים סוכן שלישי. Claude פותח בעצמו את המקורות.
לפתוח את הכללים
באותו בוקר Claude הביא לי שלוש שאלות. לאיזו קטגוריה שייך מנוע חיפוש שגם כותב תשובות? איפה מכניסים זיהוי של תמונות מזויפות? ומה עושים כשהתשובה הכנה לשאלה היא שם של מוצר מסחרי, שהכללים של האתר אוסרים? כל שאלה עם רקע והמלצה, מסודר, מחכה שאבחר.
לא בחרתי. כתבתי:
gq">"אני לא מסכים עם ההכרעות שאתה מציג — יש הכרעות אחרות. נראה כי יש אי סדר או לוגיקה לא תקינה בבניית הקטגוריות. וצריך לטפל בזה לפני שדנים בערך אחד."
5.9.2026, בבוקר
לא היו שם שלוש שאלות. הייתה שאלה אחת שחזרה שלוש פעמים, כי משפט אחד בכללים היה מנוסח כך שאי אפשר לקיים אותו. הוא לא הבחין בין חברה מסחרית לבין מוצר שלה, למשל תוכנה שכותבת טקסט. ומוצרים כאלה הם בדיוק מה שהאתר נועד להסביר.
כשבדקנו, התברר ש-63 ערכים, שמונה אחוזים מהאתר, סותרים את הכלל שהקטגוריה שלהם עצמה מציגה לקוראים. והכלל כן נאכף, אבל רק על מועמדים חדשים. ארבעה עשר מונחים נדחו לפיו, ובאחד עשר מהם החברה שבגללה נדחו הייתה בעצמה ערך באתר. eBay נפסלה כי רכשה את PayPal, בזמן ש-PayPal ישבה אצלנו בנחת.
כל החלטה נשענה על ההחלטה שלפניה, ואף אחד לא חזר לקרוא את המשפט שעליו הכול נבנה. הבודק ההוא פתח את התקציר. אני פתחתי את הכללים.
כשהדבר עצמו הוא אני
עד כאן זה נשמע כמו סיפור שבו אני הפיכח והמכונה מתבלבלת. אז הנה הצד השני.
באוקטובר בדקתי באפליקציה שבה מדברים בקול עם דמויות מה קורה כשהשיחה נקטעת באמצע. שוב ושוב חזרתי לאפליקציה וראיתי שהשיחה נסגרה. כתבתי:
gq">"בדקתי את הניתוק הכפוי
7.10.2026, 20:48
החזרה לאפליקציה היתה למסך בחירת הדמויות ... ושוב הודעה שהשיחה נסגר. אצל הספק"
Claude ו-Codex, כלי הבינה המלאכותית השני שעובד איתי, חיפשו תקלה שבה האייפון סוגר את האפליקציה כשאני עובר למסך אחר. הם בנו שתי גרסאות חדשות של האפליקציה כדי לתפוס אותו. ואז Claude ביקש את הדבר עצמו: היומן שהאייפון רושם לעצמו. חיברתי את האייפון למק, ובבוקר התשובה כבר הייתה שם, באותיות ברורות:
gq">"user-quit — סגירה ידנית של האפליקציה ממסך החלפת האפליקציות. כלומר זה לא באג."
Claude, 8.10.2026, 05:44
כל "קריסה" הייתה אני. החלקתי את האפליקציה החוצה מהמסך שמציג את כל האפליקציות הפתוחות, ובכך פשוט סגרתי אותה. שאלתי:
gq">"מה זה אומר להחליק בלי לסגור את האפליקציה"
8.10.2026, 05:52
ניסיתי שוב, הפעם רק חזרתי למסך הבית, והכול עבד.
כשפותחים את הדבר עצמו, לפעמים מתברר שאני טעיתי. במקרה הזה כבר בנינו שתי גרסאות חדשות כדי למצוא תקלה שלא הייתה.
הכפתור שלא ענה
ב-Wiki-AI יש מערכת שמכינה פוסטים לרשתות החברתיות, ושולחת לי אותם לאישור בטלגרם. לוחצים על כפתור, והפוסט יוצא. ב-5 באוקטובר כתבתי:
gq">"הגיע מייל על הפוסט של מחר בלינקדין ואישרתי אותו בטלגרם
5.10.2026, 18:13
זה עבד לפי התכנון"
Claude בדק, וענה שהאישור עוד לא נקלט. כשהריץ את הבדיקה ידנית, התברר שלחצתי על הכפתור שש פעמים. הכפתור לא הראה שום סימן שהלחיצה נקלטה, אז המשכתי ללחוץ.
תיקנו את זה, ושבוע אחר כך זה קרה שוב. אמרתי שאישרתי, והמערכת אמרה שלא קיבלה. הפעם Claude לא הסתפק בדיווח של המערכת, ובדק ישירות מה הגיע לבוט, הכלי האוטומטי בטלגרם שמקבל את האישורים שלי. לא הגיע כלום, לא רק הלחיצה שלי, שום הודעה. ההשערה שלו: משהו אחר שמחובר לאותו בוט אסף את ההודעות לפני שהמערכת שלנו הגיעה אליהן.
אף אחד לא שיקר. אני לחצתי באמת, והמערכת באמת לא מצאה כלום. כל אחד דיווח בדיוק את מה שראה. באותו לילה החלפנו את הכפתור בדף פרטי באתר, שרק אני רואה. בבוקר בדקתי אותו בעצמי.
לראות כמו מי שלא מכיר
הדבר עצמו הוא לא תמיד מקור או יומן. לפעמים זה המסך, כמו שאדם זר יראה אותו.
ב-OurRoute, מתכנן הטיולים, נכנסתי לאתר כמו אורח, בלי להתחבר. האתר התחיל לתכנן, ואז ביקש ממני להתחבר. לחצתי "לא עכשיו", וקיבלתי תוכנית כמעט ריקה. כתבתי:
gq">"בדקתי
28.9.2026, 13:05
הוא מתחיל כאילו לתכנן ואז שולח חלון הודעה להתחברות ואם אני אומר לא עכשיו הוא מציג תכנית ריקה כמעט - כי בחרתי רק שתי מקומות
כלומר תכנית שלא עברה מודל
הבעיה שמשתמש לא יודע ולא מכיר את הלוגיקה של מנוע ומודל אז הוא רואה תכנית ריקה וזה לא טוב
מה שצריך לדעתי זה שאם הוא לא מתחבר לא תוצג תכנית"
אני ידעתי שבלי להתחבר, האתר לא מפעיל את הבינה המלאכותית שמכינה את תוכנית הטיול. מי שנכנס בפעם הראשונה לא יודע את זה. הוא רואה דף ריק, ומסיק שהאתר לא עובד. Claude הסכים, ובמקום התוכנית הריקה מופיע עכשיו מסך שמזמין את האורח להתחבר.
מה למדתי
כשדיווח עובר מסוכן ל-Claude ומ-Claude אליי, קל לשכוח שאף אחד מאיתנו עוד לא ראה על מה הוא נשען. "תוקן" הוא תווית, לא בדיקה. עכשיו, כשאני קורא "תוקן", אני רוצה לראות מה השתנה ועל סמך מה: את התקציר של המאמר, את הכללים שכתבנו לפני שבועיים, את היומן של האייפון, את המסך כמו שאורח רואה אותו.
לפעמים מתברר שהתיקון היה הטעות. ולפעמים אני.