Publikovat

Rané testy Jalapeño od OpenAI naznačují potenciálně významný posun v ekonomice inference: 1,5x až 1,9x vyšší propustnost na watt a 1,7x až 3,6x nižší latence od konce k konci u otevřených modelů. GPT-5.6 Sol údajně také používal o 54 % méně výstupních tokenů než přední konkurent v programovacích úlohách. Měřený závěr je, že zvýšení efektivity by mohlo zlepšit ekonomiku jednotek, ale benchmarky ověřené firmou zatím nejsou důkazem nižších agregovaných nákladů. S příjmy 6,7 miliardy dolarů ve druhém čtvrtletí a provozní ztrátou 12,3 miliardy dolarů bude nasazení ve velkém měřítku a růst pracovní zátěže důležitější než celkový výkon. Ne rady, jen analýza. #OpenAIInferenceCostTest