Përmbledhje:
- Kompanitë që dikur nxisnin punonjësit të përdornin sa më shumë AI tani po vendosin kufij, sepse faturat po rriten shpejt.
- Kostoja po rritet sidomos nga agentët AI dhe modelet reasoning, të cilat përdorin shumë më tepër fuqi kompjuterike dhe “tokens” sesa chatbot-et e thjeshta.
- Faza e re e AI në kompani nuk është më “përdoreni sa më shumë”, por “përdoreni aty ku sjell vlerë reale”.
Për dy vitet e fundit, shumë kompani e trajtuan përdorimin e AI si shenjë inovacioni. Sa më shumë ta përdornin punonjësit, aq më moderne dukej kompania. Madje disa firma krijuan edhe tabela të brendshme që tregonin kush përdorte më shumë AI dhe kush harxhonte më shumë “tokens”.
Por tani po vjen faza tjetër: fatura.
Sipas The Economist, kompanitë po përpiqen të ulin kostot e AI, sepse përdorimi masiv po bëhet shumë më i shtrenjtë nga sa pritej. Termi që po del nga moda është tokenmaxxing: ideja se punonjësit duhet të përdorin sa më shumë tokens, pra njësitë e tekstit që modelet AI përpunojnë dhe mbi të cilat shpesh llogaritet kostoja.
Problemi është se AI në kompani nuk po përdoret më vetëm për të shkruar email-e apo për të përmbledhur dokumente. Po përdoret gjithnjë e më shumë për agentë AI, pra sisteme që lexojnë, interpretojnë, marrin vendime dhe kryejnë veprime. Këta agentë mund të konsumojnë shumë më tepër fuqi kompjuterike dhe të krijojnë kosto të paparashikueshme.
The Economist citon të dhëna nga Ramp, sipas të cilave shpenzimet e klientëve për AI janë rritur 13 herë brenda një viti. Te klientët që shpenzojnë më shumë, kostoja arrin mesatarisht rreth 7,450 dollarë për punonjës në muaj, ndërsa klienti median shpenzon vetëm 11 dollarë.
Kjo tregon se problemi nuk është i njëjtë për të gjithë. Kompanitë që sapo po hyjnë në AI ende po nxitojnë ta adoptojnë. Por përdoruesit më të rëndë, sidomos kompanitë teknologjike dhe ekipet e zhvillimit të software-it, po kuptojnë se AI nuk është falas, edhe kur kursen kohë.
Prandaj disa kompani po ndryshojnë qasje. Meta dhe Amazon, sipas The Economist, kanë hequr disa tabela të brendshme që nxisnin garën për përdorim të lartë të AI. Uber ka vendosur kufij mujorë për tokens në disa mjete kodimi. Kompanitë po zgjedhin më me kujdes se kur duhet model i fuqishëm dhe kur mjafton një model më i lirë.
Axios e përshkruan këtë si “AI sticker shock”: momenti kur kompanitë kuptojnë se entuziazmi për AI po shoqërohet me kosto të larta, kthim të paqartë investimi dhe më shumë presion mbi buxhetet.
Në thelb, ky nuk është fundi i AI në kompani. Është fundi i përdorimit pa kufi.
Faza e parë ishte: “futeni AI kudo”.
Faza e dytë po bëhet: “provoni që ia vlen”.
Dhe kjo mund të jetë shenja më e qartë se AI po kalon nga hype në realitet biznesi.
