Modelos de linguagem grandes (LLMs) s�o poderosos na resolu��o de muitos tipos de problemas. No entanto, eles s�o limitados pelas seguintes limita��es:
- Eles s�o congelados ap�s o treinamento, levando a um conhecimento desatualizado.
- Eles n�o podem consultar nem modificar dados externos.
As extens�es e a Vertex AI (pr�-lan�amento) podem resolver essas defici�ncias. As extens�es s�o conex�es com APIs externas que processam dados em tempo real e realizam a��es reais. O servi�o de extens�o da Vertex AI registra, gerencia e executa essas extens�es e pode ser vinculado a um aplicativo que processa consultas do usu�rio e se comunica com um LLM.
Sempre que um aplicativo recebe uma consulta de um usu�rio, ele fornece ao LLM um conjunto de extens�es e as opera��es que elas podem realizar. Se o modelo determinar que precisa delegar o processamento de consulta a uma extens�o, ele fornecer� ao aplicativo uma chamada de extens�o solicitada e os valores de par�metro associados. O aplicativo redireciona essa solicita��o para o servi�o de extens�o, que a executa. O processo � conclu�do quando o servi�o de extens�o envia o resultado dessa opera��o ao aplicativo, que o redireciona de volta ao modelo.
A Vertex AI para Pesquisa permite criar, implantar e gerenciar extens�es que conectam LLMs �s APIs de sistemas externos. Esses sistemas podem fornecer dados em tempo real aos LLMs e realizar a��es de processamento de dados em nome deles.
Para saber mais sobre os casos de uso e os benef�cios das extens�es e do servi�o de extens�o da Vertex AI, consulte Casos de uso e benef�cios.
Para saber como registrar, gerenciar e executar extens�es com o servi�o de extens�es da Vertex AI, consulte Registrar, gerenciar e executar extens�es.
Casos de uso e benef�cios
Veja a seguir alguns casos de uso de extens�es poss�veis:
- Gerar e executar c�digo.
- Consultar sites e sintetizar informa��es.
- Responda a perguntas com base nas informa��es de uma cole��o de dados espec�ficos da empresa.
- Consultar e analisar reposit�rios de dados.
O servi�o de extens�es da Vertex AI oferece os seguintes benef�cios:
- Controles empresariais: permiss�es do Identity and Access Management (IAM) e controles de seguran�a.
- Seguran�a dos dados: acordos contratuais de que seus dados particulares n�o ser�o vazados nem usados no treinamento do modelo
- Contratos de desempenho: acordos contratuais que estabelecem recursos e tempos de atividade espec�ficos pela plataforma.
- Extens�es particulares: os usu�rios autorizados na sua organiza��o ou um parceiro confi�vel podem usar extens�es para acessar dados e a��es internas confidenciais, como pesquisar bases de conhecimento internas ou concluir a��es de RH.
- Integra��es de produtos do Google: integra��o com produtos do Google, como Vertex AI para Pesquisa, BigQuery e modelos especializados.
A seguir
- Criar, registrar e executar extens�es.
- Registrar e usar extens�es fornecidas pelo Google
- Usar o Reasoning Engine.