סוכנויות מדיה מפתחות כלי ביקורת למניעת חיובי יתר מצד סוכני בינה מלאכותית

סוכנויות מדיה מפתחות כלי ביקורת כדי למנוע חיובי יתר מצד סוכני בינה מלאכותית

סוכן בינה מלאכותית מקבל בריף לקמפיין, בוחן קהלים, משנה הצעת מחיר ומעביר תקציב בין ערוצים. על הנייר, זו בדיוק ההבטחה שמושכת סוכנויות מדיה ומפרסמים: פחות עבודה ידנית, תגובה מהירה יותר וחיסכון בשעות תפעול.

אלא שבזמן שהסוכן עובד, הוא גם צורך משאבי מחשוב, שולח בקשות חוזרות למודלים ולעיתים מבצע פעולות שלא תוכננו מראש. אם אין מי שעוקב אחריו, החיסכון בזמן עלול להתחלף במהירות בהוצאות בלתי צפויות, החלטות שקשה להסביר ותיקונים יקרים.

זו הסיבה שסוכנויות מדיה שנמצאות בחזית ההטמעה של סוכני AI מתחילות לבנות שכבת פיקוח חדשה. לא עוד הסתפקות בדוח ביצועי הקמפיין, אלא תיעוד מפורט של הדרך: מה ביקש העובד, באיזה מודל נעשה שימוש, אילו פעולות ביצע הסוכן, כמה משאבים צרך ומי אישר את התוצאה.

הבעיה אינה רק מחיר הטוקנים

טוקן הוא יחידת הטקסט שבה משתמשים מודלי בינה מלאכותית לצורך עיבוד וחיוב. משפט אחד מורכב בדרך כלל ממספר טוקנים, והעלות מצטברת בהתאם להיקף הקלט, התשובה, המודל שנבחר ומספר הפעמים שבהן המערכת פונה אליו.

כאשר עובד משתמש בצ'אט כדי לנסח כותרת, קל יחסית להבין את גבולות המשימה. סוכן AI פועל אחרת. הוא עשוי לפרק יעד למספר משימות, לקרוא מסמכים, להפעיל כלים חיצוניים, לבדוק את התוצאה, לתקן את עצמו ולנסות שוב. כל שלב כזה עלול ליצור קריאה נוספת למודל ועלות נוספת.

לכן, הביטוי "חיובי יתר" אינו מתייחס בהכרח לטעות בחשבונית של ספק הטכנולוגיה. במקרים רבים מדובר בצריכה עודפת שנוצרה מפעולה תקינה לכאורה: מודל יקר מדי למשימה פשוטה, הנחיה לא מדויקת שגוררת ניסיונות חוזרים, הקשר ארוך שלא לצורך או סוכן שנכנס ללולאת עבודה.

הסיכון גדל כאשר לסוכן ניתנת הרשאה לבצע פעולות במערכות מדיה אמיתיות. במקרה כזה העלות אינה מוגבלת לטוקנים. שינוי לא נכון בקהל, בהצעת מחיר או בחלוקת התקציב יכול להשפיע ישירות על הוצאות הקמפיין ועל התוצאות העסקיות.

הפער בין קצב ההטמעה לקצב הפיקוח

לפי סקר של גרטנר שנערך באפריל בקרב 1,300 מנהלי שיווק בכירים, 56% מהחברות עדיין הטמיעו כלי AI ללא מדיניות שימוש ברורה. חברת המחקר העריכה כי 60% מהארגונים המשתמשים בבינה מלאכותית יתמודדו עם חריגות בעלויות הקשורות לטכנולוגיה בשל מעקב בלתי מספק אחר השימוש.

הנתונים מצביעים על פער ניהולי מוכר: קל לפתוח גישה לכלי חדש, אך מורכב יותר לקבוע מי רשאי להשתמש בו, לאיזו מטרה, באיזה מודל ובאיזו מסגרת תקציב. בסוכנויות מדיה הפער הזה רגיש במיוחד, משום שהמערכות מטפלות גם בתקציבי לקוחות וגם במידע מסחרי.

בתקופת ניסוי אפשר לעבור ידנית על מספר מצומצם של פעולות. כאשר עשרות צוותים מפעילים סוכנים במקביל, בדיקה ידנית כבר אינה מספיקה. הארגון זקוק למנגנון שיזהה חריגה בזמן, ולא רק לאחר קבלת החשבונית או בסיכום החודשי של הקמפיין.

יומן ביקורת: הקופסה השחורה נפתחת

אחד הכלים המרכזיים שמתפתחים בתחום הוא יומן ביקורת, או Audit Log. זהו רישום כרונולוגי של פעולות הסוכן: איזו הוראה התקבלה, אילו שינויים בוצעו, מתי הם בוצעו, באיזו מערכת ובאמצעות איזה ממשק.

סוכנות המדיה הביצועית Rise, המשתייכת לקבוצת Quad, בחנה סוכני AI לרכישת מדיה במסגרת עבודה עם לקוח מתחום הסופרמרקטים. לצורך הפיקוח היא השתמשה ביומן ביקורת שפיתחה PubMatic, ספקית טכנולוגיה הפועלת בשוק הפרסום הדיגיטלי.

המערכת של PubMatic נועדה לתעד מקרים שבהם הסוכן סוטה מהפרמטרים שהוגדרו לו. כל שינוי נשמר עם חותמת זמן ופרטים על אופן הביצוע. כך ניתן לחזור לאחור ולבדוק לא רק מה השתנה, אלא גם מה הוביל לשינוי.

ההבדל הזה משמעותי. אם עלות החשיפה בקמפיין עלתה בחדות, דוח רגיל עשוי להראות מתי העלייה התרחשה. יומן החלטות אמור לעזור להבין אם הסוכן הרחיב את הקהל, שינה מגבלת מחיר, פעל לפי נתון שגוי או פשוט פירש את הבריף באופן שונה מכוונת מנהל הקמפיין.

PubMatic עבדה על ניסויים דומים גם עם סוכנויות ובהן Butler/Till ו-Abovo Maxlead ההולנדית. המשותף לניסויים הוא הניסיון להפוך את פעולת הסוכן לניתנת לשחזור. בלי יכולת כזו קשה לבצע בקרת איכות, לחקור תקלה או להסביר ללקוח מדוע התקבלה החלטה מסוימת.

מי אחראי כשהסוכן טועה?

כלי ביקורת אינם פותרים לבדם את שאלת האחריות. גם אם המערכת תיעדה במדויק את תהליך העבודה, הארגון עדיין צריך להחליט מי מוסמך לאשר פעולה ומי נושא באחריות לתוצאה.

ב-Dept, שמפתחת כלי ניטור להפקת יומני החלטות ודוחות בקרת איכות, הגישה היא שלכל תוצר חייב להיות בעל תפקיד אנושי שאחראי עליו. במילים אחרות, "ה-AI עשה זאת" אינו הסבר שמסיר אחריות מהעובד או מהסוכנות.

מבחינה ניהולית, זהו עיקרון חשוב יותר מכל כלי. אם עובד זוטר אינו רשאי להעביר לבדו חלק משמעותי מתקציב קמפיין לערוץ חדש, גם סוכן שמופעל מטעמו לא אמור לקבל הרשאה כזו ללא אישור. אוטומציה יכולה לקצר את הדרך להחלטה, אך אינה צריכה לעקוף את מדרג הסמכויות.

בפועל, ארגונים יכולים להגדיר נקודות עצירה. לדוגמה, הסוכן רשאי להמליץ על שינוי, אך נדרש אישור אנושי לפני ביצועו. בסביבה אחרת הוא יכול לבצע שינויים קטנים באופן אוטומטי, בעוד ששינוי מעל רף כספי מסוים מחייב בדיקה.

לא כל משימה זקוקה למודל החזק והיקר ביותר

גורם מרכזי נוסף בעלויות הוא בחירת המודל. מודלים מתקדמים יותר עשויים לספק יכולות ניתוח והסקה טובות יותר במשימות מורכבות, אך בדרך כלל הם גם יקרים יותר להפעלה. שימוש בהם לכל משימה, לרבות סיווג בסיסי או ניסוח קצר, עלול לנפח את ההוצאה ללא תועלת מקבילה.

ניקול גרין, אנליסטית בגרטנר, הצביעה על בחירה לא מתאימה של מודל כאחד הגורמים לעלייה בצריכת טוקנים. הבעיה אינה שהעובדים בהכרח משתמשים יותר מדי ב-AI, אלא שהם אינם תמיד יודעים להתאים בין רמת המודל לבין מורכבות המשימה.

מנקודת מבט של מנהל, אפשר להשוות זאת לשליחת כל משימה ארגונית ליועץ הבכיר והיקר ביותר. יש מקרים שבהם המומחיות מוצדקת, אך אין היגיון להפעיל אותה על כל בדיקה שגרתית.

ב-Dept בחרו להתמודד עם הסוגיה באמצעות שער AI מרכזי. במקום שכל עובד יבחר בעצמו את המודל, הבקשה נשלחת למנגנון שמנתב אותה לפי שיקולים של עלות, ביצועים, אבטחה ודרישות משפטיות. ג'ונתן וייטסייד, סגן נשיא בכיר גלובלי לטכנולוגיה בחברה, תיאר מקרים שבהם עובדים צרכו 1.5 מיליון טוקנים ביום — המחשה למהירות שבה שימוש לא מבוקר יכול להתרחב.

הניתוב המרכזי מסייע גם כאשר ללקוח יש דרישות הנוגעות למיקום הנתונים. לפי Dept, לקוחות מסוימים ביקשו להשתמש במודלים שניתן להפעיל באופן התואם את מגבלות אחסון המידע במדינות שבהן הם פועלים. במקרה כזה בחירת מודל היא לא רק החלטת עלות, אלא גם סוגיה משפטית ותפעולית.

מכסות שימוש אינן חייבות לחסום חדשנות

התגובה הארגונית הפשוטה ביותר לחריגה היא קביעת מכסה. אלא שמגבלה קשיחה מדי עלולה לגרום לעובדים להימנע מניסויים מועילים או לעבור לכלים פרטיים שאינם מפוקחים.

Brainlabs משתמשת במערכת מדורגת להקצאת טוקנים. כאשר עובד חורג מהמכסה, ניתן לבחון את אופן השימוש ולהגדיל את ההקצאה אם הוא יוצר ערך. כך המכסה משמשת נקודת בקרה ולא איסור אוטומטי.

גם PMG פיתחה מנגנון לניהול צריכה במסגרת כלי בשם Alli For You. הכלי מאפשר להגדיר מגבלות יומיות לפי מספר טוקנים או לפי עלות. עובדים שמגיעים לתקרה באופן קבוע עשויים לקבל תקציב גדול יותר, או הדרכה לבחירת מודל יעיל יותר.

היתרון בגישה הזאת הוא שהחריגה הופכת לפתיחת שיחה. מנהל יכול לבדוק אם העובד מפעיל תהליך עסקי חשוב, אם ההנחיות דורשות שיפור או אם משימה שחוזרת על עצמה צריכה לעבור תכנון מחדש.

להגדיר לסוכן דרך עבודה, לא רק יעד

פיקוח כספי מטפל בתוצאה, אך אפשר לצמצם בזבוז עוד קודם באמצעות תכנון נכון של הסוכן. במקום לומר לו רק "בנה תוכנית מדיה", ניתן להגדיר את מקורות המידע המותרים, סדר הפעולות, כללי האישור והתנאים שבהם עליו לעצור.

יכולות כמו Skills ב-ChatGPT וב-Claude מאפשרות לארגונים לשמור הוראות, מסמכים ותהליכי עבודה שהסוכן נדרש ליישם. המטרה היא לצמצם את החופש שלו להמציא בכל פעם מסלול פעולה חדש, במיוחד במשימות שחייבות להתבצע באופן עקבי.

לדוגמה, סוכנות יכולה לקבוע שסוכן תכנון מדיה יבדוק תחילה את מגבלות המותג, לאחר מכן את התקציב ואת הגדרת הקהל, ורק אז יציע חלוקת ערוצים. אם חסר נתון מהותי, עליו לפנות לעובד במקום להשלים אותו בעצמו.

מבנה כזה אינו מבטל טעויות, אבל הוא מקטין את מספר ההחלטות הפתוחות. הוא גם מקל על הביקורת, משום שניתן להשוות בין הפעולות שבוצעו לבין תהליך העבודה שאושר מראש.

מה מנהלים צריכים למדוד בפועל?

הערכת עלות של סוכן AI מורכבת יותר מסיכום חשבונית המודל. Rise, למשל, בוחנת את ההוצאות על רישיונות וטוקנים לצד הזמן שהעובדים חסכו או השקיעו והשיעור מתקציב הקמפיין שהגיע בפועל לרכישת מדיה. מנהלי החברה הבהירו כי בשלב זה מדובר בחישוב גס.

זהו בכל זאת כיוון נכון. סוכן זול שדורש שעות של תיקונים אינו בהכרח יעיל, וסוכן יקר יותר עשוי להיות כדאי אם הוא מקצר תהליך מורכב בלי לפגוע באיכות. המדד החשוב הוא עלות התהליך השלם, לא רק מחיר הקריאה למודל.

לצד העלות כדאי למדוד את שיעור הפעולות שנדרשו לתיקון, מספר ההתערבויות האנושיות, זמן השלמת המשימה, עמידה במדיניות והיקף החריגות מהבריף. כך אפשר להבחין בין שימוש רב שמייצר ערך לבין צריכה שמסתירה תהליך לא יעיל.

סיכום: שכבות הבקרה המרכזיות

תחום הבקרה	מה בודקים	הערך לארגון
יומן ביקורת	הוראות, החלטות, פעולות, שינויים וחותמות זמן	שחזור תקלות והסבר החלטות לעובדים וללקוחות
ניהול טוקנים ועלויות	צריכה לפי עובד, צוות, לקוח, משימה ומודל	זיהוי חריגות לפני שהן הופכות להוצאה משמעותית
ניתוב מודלים	התאמת המודל למורכבות, לעלות ולדרישות המידע	מניעת שימוש אוטומטי במודל יקר מדי
הרשאות ואישורים	אילו פעולות הסוכן רשאי לבצע ומתי נדרש אדם	הגנה על תקציבים ושמירה על אחריות ארגונית
תהליכי עבודה קבועים	מקורות מידע, סדר פעולות, כללי עצירה ומגבלות	צמצום אלתורים, טעויות וניסיונות חוזרים
מדידת ערך	חיסכון בזמן, איכות, תיקונים והשפעה עסקית	הבחנה בין אוטומציה מועילה לצריכה מיותרת

חמש שאלות שכל מנהל צריך לשאול

1. האם אנחנו יודעים כמה עולה כל תהליך מבוסס AI, ולא רק כמה עולה הרישיון החודשי?
2. האם ניתן לשחזר את הפעולות וההחלטות של הסוכן במקרה של טעות או תלונת לקוח?
3. מי מאשר שינויים בתקציב, בקהל או בהגדרות קמפיין, ומי אחראי לתוצאה?
4. האם העובדים בוחרים מודלים בעצמם, או שהבקשות מנותבות לפי עלות, מורכבות ורגולציה?
5. האם המכסות וכללי השימוש מעודדים עבודה מועילה, או רק מגבילים צריכה בלי להבין את מטרתה?

השלב הבא: מאוטומציה מפוקחת למשמעת תפעולית

סוכני בינה מלאכותית יכולים לקצר תהליכים בסוכנויות מדיה, אך עצמאות תפעולית ללא שקיפות היא הימור יקר. ככל שהסוכנים מקבלים גישה ליותר מערכות ותקציבים, כך עולה החשיבות של יומני ביקורת, מכסות, ניתוב מודלים והרשאות מדורגות.

הארגונים המתקדמים אינם מנסים לעצור את השימוש. הם מנסים להפוך אותו למדיד, מוסבר וניתן לשליטה. בסופו של דבר, השאלה אינה אם סוכן AI מסוגל לבצע את העבודה, אלא אם החברה יכולה לדעת מה הוא עשה, כמה זה עלה ומי היה אחראי כשהפעולה יצאה לדרך.