Chamada de ferramentas

Agora que você entende como o contexto funciona, vamos explorar como os modelos de IA podem fazer mais do que apenas gerar texto. Eles podem realizar ações e buscar informações dinamicamente por meio da chamada de ferramentas.

Lembra quando comparamos os modelos de IA a endpoints de API? A chamada de ferramentas é como dar a esses modelos a capacidade de chamar outras APIs por conta própria. É como se o modelo de IA pudesse aprender novas habilidades.

Veja uma analogia. Imagine que você está ajudando um amigo a preparar o jantar pelo telefone. Você pode dar instruções com base no que sabe, mas não consegue ver o que há na geladeira dele nem provar a comida que ele está preparando.

Agora imagine se seu amigo envia fotos do conteúdo da geladeira ou informa a temperatura exata do forno. De repente, você pode dar conselhos muito melhores porque tem acesso a informações em tempo real. É isso, essencialmente, que a chamada de ferramentas permite aos modelos de IA.

Como funciona a chamada de ferramenta

Quando desenvolvedores criam aplicações de IA, podem definir "ferramentas" específicas que o modelo de IA pode usar. Essas ferramentas são como habilidades especiais que ampliam o que o modelo pode fazer, indo além de apenas pensar e responder com texto.

Você provavelmente já usou chamadas de ferramenta sem perceber! Quando pede ao ChatGPT para gerar uma imagem, pesquisar na web ou executar código, ele usa ferramentas nos bastidores.

Veja o que acontece nos bastidores:

1. O modelo de IA recebe sua solicitação e reconhece que precisa de recursos adicionais
2. Ele formata uma resposta especial em JSON (um formato de dados estruturados), especificando qual ferramenta usar e quais parâmetros passar
3. A aplicação executa essa ferramenta e retorna os resultados
4. O modelo de IA incorpora esses resultados ao contexto e continua a conversa

Por que as ferramentas são importantes para programar

No desenvolvimento de software, as ferramentas são extremamente úteis porque permitem que o modelo de IA:

• Leia e grave arquivos na sua base de código
• Pesquise no código para encontrar funções ou padrões relevantes
• Execute comandos de shell para testar código ou instalar pacotes
• Acesse a documentação ou pesquise na web por informações atualizadas
• Verifique se há erros executando linters ou testes

Sem ferramentas, o modelo de IA ficaria limitado às informações que você fornece explicitamente no contexto. Com ferramentas, ele pode explorar e interagir ativamente com sua base de código.

O que há em uma chamada de ferramenta?

Toda ferramenta tem três componentes principais:

1. Um nome, como read_file ou search_web
2. Uma descrição que informa ao modelo quando e como usar a ferramenta
3. Parâmetros, que são as entradas necessárias para o funcionamento da ferramenta

Veja um exemplo de como pode ser uma definição de ferramenta:

{  "name": "read_file",  "description": "Read the contents of a file from the codebase",  "parameters": {    "filepath": "The path to the file to read"  }}

Quando o modelo de IA quer usar essa ferramenta, ele gera uma resposta como esta:

{  "tool": "read_file",  "parameters": {    "filepath": "src/components/Button.tsx"  }}

O app lê esse arquivo e adiciona seu conteúdo ao contexto da conversa, permitindo que o modelo entenda seu componente Button e sugira alterações relevantes.

O custo das ferramentas

Lembra quando falamos sobre tokens e preços? As chamadas de ferramenta consomem tokens de duas formas:

1. Definições de ferramentas são incluídas no contexto de entrada (geralmente algumas centenas de tokens por ferramenta)
2. Resultados de ferramentas são adicionados ao contexto de saída (varia conforme o que a ferramenta retorna)

Isso significa que conversas com muito uso de ferramentas preencherão a janela de contexto mais rapidamente e custarão mais. Mas essa troca geralmente vale a pena, pois a IA pode ser muito mais útil com acesso a informações em tempo real.

Quando ocorrem chamadas de ferramenta, os modelos de IA reavaliam o contexto até a própria chamada. Em ferramentas como o Cherri Code, isso significa que você verá um uso maior de tokens de entrada armazenados em cache, pois estamos reenviando o contexto ao modelo.

Além das ferramentas integradas

Recentemente, foi criado um novo padrão chamado MCP (Model Context Protocol). Pense nele como uma forma universal de modelos de IA usarem e integrarem ferramentas entre diferentes aplicativos.

Assim como o USB se tornou um padrão para conectar dispositivos a computadores, o MCP busca ser um padrão para conectar ferramentas a modelos de IA. Isso significa que desenvolvedores podem criar ferramentas uma única vez e usá-las em diversos aplicativos de IA.

Por exemplo, você pode usar o MCP para se conectar ao Figma e acessar arquivos de design, ao Linear para visualizar e gerenciar issues ou até mesmo a um banco de dados para consultar seus dados diretamente. Você também pode criar seus próprios servidores MCP para integrar ferramentas internas e APIs.

Agora que você entende a chamada de ferramenta, vamos ver o que acontece quando permitimos que modelos de IA usem várias ferramentas em sequência. É aí que as coisas ficam interessantes com agentes.