מודלים זולים יותר, התחייבויות גדולות יותר: מי מנהל את כלכלת ה־AI?

ב־21 באוקטובר Google Cloud הכריזה על גישה ל־GPT-6 Astra, GPT-6.1 Sol ו־GPT-6 Luna דרך Model Garden, בשלב זה ב־private preview ללקוחות ארגוניים נבחרים. השימוש מחויב דרך Marketplace, נכלל בחשבונית הענן ויכול להיספר כנגד התחייבויות ענן קיימות. בהכרזה, אפשרויות Zero Data Retention ו־Confidential Compute מתוארות כיכולות שיגיעו בהמשך, ולכן אין להציג אותן כזמינות כבר כעת.

ב־22 באוקטובר Axios החזירה לדיון את שחיקת מחירי הטוקנים. במקור הנתונים, סקירת Ramp מ־14 באוקטובר, מתואר קיפאון כמעט מלא בהוצאה על טוקנים באוגוסט ובספטמבר, למרות עלייה בנפח. אותה סקירה כבר מציינת התאוששות בתחילת אוקטובר. זהו נתון מוקדם יותר שקיבל סיקור השבוע, ולא מדידה חדשה של השבוע הנוכחי.

בלוח Ramp שנבדק לגיליון, השבוע שהסתיים ב־11 באוקטובר מציג עלייה של 23.0% בהוצאה ושל 52.4% בנפח לעומת השבוע שהסתיים ב־13 בספטמבר; המחיר המשולב ל־OpenAI ול־Anthropic ירד מ־0.86 ל־0.64 דולר למיליון טוקנים. זהו מדגם של לקוחות Ramp, וההשוואה השבועית אינה אותה השוואה כמו בסקירה החודשית.

בדוחות שפרסמה Meta ב־21 באוקטובר, ההכנסות הרבעוניות הגיעו ל־64.60 מיליארד דולר, עלייה של 26%. התזרים מפעילות שוטפת היה 32.79 מיליארד דולר, אך התזרים החופשי היה שלילי, 2.12 מיליארד דולר. תחזית ההשקעות ההוניות לשנה צומצמה ל־135–145 מיליארד דולר. אלה השקעות הוניות, לא כלל ההוצאות. בדוחות נכלל גם חיוב משפטי של 9.9 מיליארד דולר, ולכן אי אפשר לייחס את כל הלחץ על התוצאות ל־AI.

בדוח ה־10-Q מופיעות גם התחייבויות חוזיות שאינן ניתנות לביטול בהיקף 454.52 מיליארד דולר, בעיקר לענן ותשתיות טכניות, עם פריסת תשלומים עתידית. זה אינו סכום השקעה של רבעון אחד. Reuters דיווחה ב־22 באוקטובר על ירידה של כ־3% במסחר המוקדם, לצד עלייה ביעדי מחיר מצד אנליסטים.

ב־20 באוקטובר Google הודיעה על פתיחת TorchTPU בקוד פתוח, בפיתוח משותף עם צוות PyTorch של Meta. המטרה היא הרצת עומסי PyTorch על TPU דרך ממשקים מוכרים, עם תמיכה ב־torch.compile ושילובים עם vLLM ו־SGLang. במאגר הפרויקט מופיעים גם כלי בדיקה ודוגמאות לאימון ולהסקה. ההכרזה אינה מספקת הוכחה ליתרון עלות גורף לכל עומס עבודה.

ב־20 באוקטובר הוכרזה llm-d 1.0, תשתית קוד פתוח להפעלת מודלים בסביבת Kubernetes. ההכרזה מתארת ניתוב שמביא בחשבון הקשר שכבר נמצא במטמון, בקרת תעבורה בין משתמשים וזמינות גבוהה. Google הציגה הדגמה של 1,000 סוכנים מול נקודת שירות משותפת. זו הדגמת ספק, לא מבחן עצמאי לתהליך ארגוני. מסמכי הפרויקט עוסקים גם בתיאום עדכוני שרתים ובהפרדה בין שלבי עיבוד.