O consumo de tokens: o bicho está pegando… e a fatura também!

Estamos na era da IA.

Ainda existe uma legião de resistentes. Parte com medo dos efeitos no mercado de trabalho.

Outra parte é dos “indignados”: faz uma pergunta preguiçosa, recebe uma resposta meia-boca e decreta que a inteligência artificial é superestimada. É entregar um violino a alguém sem noção de música e concluir que o instrumento é que não presta.

Do que acontece lá fora

O artigo do Financial Times ‘We created a monster’: companies rein in AI usage as costs strain budgets do dia 19 de junho mostra bem o espanto do pessoal.

O pessoal empurrou IA na marra pros funcionários. O consumo de tokens passou a ser relevante para identificar quem usa ou… escorrega pra vala da legião de resistentes apontada no início do artigo.

Agora, a turma usa IA até pra fazer operações de 2 + 2. O que consome tokens, of course.

Já escrevi sobre em Medição por token maxxing – a piada.

A conta ficou cara

Só que tal estímulo ficou caro, hahaha…

Nessa balada, Amazon, Walmart, Cisco, Uber e Meta estão entre as pioneiras que introduziram limites e desencorajam o uso excessivo. Ou incentivam os funcionários a optar por modelos mais baratos, numa tentativa de segurar a onda, manter os gastos com IA sob controle.

Frase de um dos entrevistados do artigo do FT, Costi Perricos, líder global de IA generativa da Deloitte:

“Os custos computacionais estão começando a entrar na mente tanto dos diretores financeiros quanto dos conselhos administrativos. Consumidores e empresas foram levados a acreditar que a IA é barata ou gratuita, e isso definitivamente não é verdade”.

Mais aqui:

No mês passado, a Amazon alertou seus funcionários pra que parem de usar “IA apenas por usar IA”, depois que engenheiros começaram a implantar agentes com o objetivo de subir em rankings internos (leia Medição por token maxxing — a piada).

Fernando Baldin

Daí que, raramente, sou obrigado a concordar com o Fernando Baldin (que me deve um churrasco e 4 cervejas Presidente) com o post dele no Linkedin:

É óbvio que está puxando brasa pro seu assado.

Mas o timing é bem-feito, daí minha citação.

Abrazon a todos,

EL CO

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *