Revolucionando a IA Autônoma: Aproveitando Bancos de Dados Vetoriais para Potencializar o Auto-GPT
ChatGPT, ou Chat Generative Pre-trained Transformer, tem sido um divisor de águas na tecnologia de IA, com avanços revolucionários. No entanto, mesmo com grandes modelos de linguagem (LLMs), como GPT, e aplicações especializadas de IA, como Midjourney, a contribuição humana ainda é necessária para prompts. Essa dependência de humanos levanta a questão: a IA pode funcionar de forma independente e atingir objetivos sem intervenção humana? O Auto-GPT surgiu como uma solução popular para essa necessidade.
O que é Auto-GPT?
Auto-GPT é um projeto experimental de código aberto no GitHub. Ele combina um modelo de linguagem GPT com outras ferramentas para criar um sistema de IA que pode trabalhar continuamente e de forma independente com mínima ou até mesmo sem contribuição humana.
O Auto-GPT tem duas partes principais: um LLM e um conjunto de comandos. O LLM, como o GPT, serve como o "cérebro" do Auto-GPT e lida com o processamento cognitivo. Portanto, os prompts do Auto-GPT são desenvolvidos pelo LLM em vez da contribuição humana tradicional. Enquanto isso, o conjunto de comandos executa várias tarefas autonomamente, como gerenciar arquivos, realizar pesquisas na web e acessar redes sociais. Essas habilidades são equivalentes às "mãos" e aos "sentidos" do Auto-GPT.
Para explicar melhor o processo, o Auto-GPT usa o modelo de linguagem GPT e feedback humano para analisar e dividir tarefas grandes em tarefas menores. Em seguida, atribui comandos específicos a essas tarefas menores, executa-os e recebe entrada para a próxima rodada de processamento cognitivo. Esses procedimentos se repetem até que o Auto-GPT conclua a tarefa.
Restrições do Auto-GPT
Agora que você conhece o Auto-GPT, é importante entender suas habilidades e restrições. Embora o Auto-GPT possa executar tarefas automaticamente, ele tem limitações para compreender e reter informações contextuais extensas, porque o modelo GPT que ele utiliza tem um limite de tokens. Por exemplo, o GPT-3 da OpenAI só pode processar no máximo 4.096 tokens de contexto, o que significa que, quando as conversas excedem o limite de tokens, o GPT-3 pode esquecer discussões anteriores.
Além disso, para concluir uma tarefa complexa, o Auto-GPT precisa realizar várias etapas. No entanto, você não pode enviar cada etapa separadamente ao modelo GPT porque isso pode resultar na perda de contexto. Essa perda tornaria difícil determinar se as ações estão corretas e se aproximam efetivamente do objetivo. Mas, se você enviar todas as mensagens anteriores ao modelo GPT em cada etapa, elas excederão o limite de tokens do GPT mais rapidamente.
Uma maneira de resolver esse problema contextual é acessar uma janela de mensagens históricas, como as últimas dez mensagens ou um número fixo de tokens, sem exceder o limite de tokens de uma única conversa. No entanto, esse método restringe o Auto-GPT de acessar informações contextuais anteriores, o que pode levar à falha do Auto-GPT em cumprir seu objetivo.
Aprimorando a capacidade contextual do Auto-GPT com um banco de dados vetorial
Integrar o Auto-GPT a um banco de dados vetorial é uma solução mais eficaz e eficiente para aprimorar a memória e a compreensão contextual do Auto-GPT. Veja como a integração funciona:
A integração converte comandos do Auto-GPT e resultados de execução de cada etapa em embeddings e os armazena em um banco de dados vetorial.
Ao gerar a próxima tarefa, ela recupera mensagens da janela de histórico e as armazena como entrada para uma busca em banco de dados vetorial.
Em seguida, recupera as mensagens históricas
top-kpara melhorar o contexto com uma extensão cronológica maior.
image
Além disso, graças à capacidade de recuperação por similaridade do banco de dados vetorial, o sistema pode determinar se a última ação é semelhante à atual e se ela ajuda a concluir a tarefa, fornecendo informações mais precisas para o comando seguinte.
Como configurar o Auto-GPT com o Milvus
Milvus é um dos bancos de dados vetoriais de código aberto mais populares, capaz de lidar com vastos conjuntos de dados contendo milhões, bilhões ou até trilhões de vetores. Você pode seguir o guia abaixo para integrar facilmente o Milvus ao seu Auto-GPT.
- Baixe a imagem Docker do Milvus e instale-a usando Docker Compose:
https://github.com/milvus-io/milvus/releases/download/v2.2.8/milvus-standalone-docker-compose.yml
docker compose up -d
- Instale o cliente
pymilvusno seu ambiente python:
pip install pymilvus==2.2.8
- Atualize seu arquivo
.env:
MEMORY_BACKEND=milvus
Se você acha difícil implantar e manter o Milvus, considere usar o Zilliz Cloud. Ele é um serviço cloud-native totalmente gerenciado para o Milvus e pode ajudar você a gerenciar facilmente a memória do Auto-GPT. O Zilliz Cloud tem uma ampla base de usuários em todo o mundo e foi recomendado pelo CEO da Nvidia, Jensen Huang, na GTC 2023. Além disso, o Zilliz Cloud é o provedor designado pela OpenAI para o plugin ChatGPT Retrieval.
Aqui está um guia sobre como usar o Zilliz Cloud como backend de memória do Auto-GPT:
Entre no Zilliz Cloud ou cadastre-se para uma conta se você ainda não tiver uma.
Crie um banco de dados e obtenha o endpoint público da nuvem.
Instale o
pymilvusexecutandopip install pymilvus==2.2.8, e atualize seu arquivo.envcom os seguintes comandos:
MEMORY_BACKEND=milvus
MILVUS_ADDR=your-public-cloud-endpoint
MILVUS_USERNAME=your-db-username
MILVUS_PASSWORD=your-db-password
Ao utilizar o Milvus ou o Zilliz Cloud como backend de memória para o Auto-GPT, você pode melhorar significativamente suas capacidades e deixá-lo um passo mais perto de alcançar a autonomia real.
Limitações da integração do Auto-GPT com um banco de dados vetorial
Incorporar um banco de dados vetorial ao Auto-GPT é altamente benéfico e necessário para automatizar tarefas e gerar comandos alinhados aos objetivos do usuário. Apesar disso, ainda existem algumas limitações.
Ao recuperar mensagens do banco de dados vetorial, os resultados top-k não são filtrados. Como resultado, informações com baixa similaridade podem existir, o que poderia induzir o modelo GPT ao erro e, em última instância, desacelerar seu progresso rumo à obtenção do resultado desejado.
Você só pode adicionar e consultar os dados de contexto, mas não pode excluir nenhum dado que não seja mais relevante ou necessário.
Atualmente, não é possível personalizar o modelo de embedding. A única opção disponível é utilizar a interface de embedding fornecida pela OpenAI.
Auto-GPT explicado
Auto-GPT é um novo desenvolvimento em tecnologia de IA que visa alcançar autonomia completa com mínima ou nenhuma intervenção humana. Embora ainda seja experimental, o Auto-GPT tem imenso potencial, especialmente quando combinado com bancos de dados vetoriais como o Milvus.
Como provedores de software de infraestrutura para tecnologias de IA, estamos entusiasmados em ver bancos de dados vetoriais desempenharem um papel crucial no desenvolvimento e no fortalecimento de novos sistemas de conteúdo gerado por IA (AIGC), como o Auto-GPT. Temos muitos artigos informativos disponíveis se você quiser saber mais sobre bancos de dados vetoriais de código aberto e Milvus, bem como tópicos relacionados, como Hierarchical Navigable Small Worlds (HNSW). Então, vamos trabalhar juntos para continuar ampliando os limites da IA e criando um futuro mais brilhante para AIGC.
Continue lendo
Stop Building AI Data Infra for the Wrong Stage
Learn how AI data infrastructure should evolve from prototype to enterprise scale, and when Vector Lakebase becomes the right architecture for AI apps.
What Exactly Are AI Agents? Why OpenAI and LangChain Are Fighting Over Their Definition?
AI agents are software programs powered by AI that can perceive their environment, make decisions, and take actions to achieve a goal—often autonomously.
Balancing Precision and Performance: How Zilliz Cloud's New Parameters Help You Optimize Vector Search
Optimize vector search with Zilliz Cloud’s level and recall features to tune accuracy, balance performance, and power AI applications.