No mês passado, anunciamos a disponibilidade de dois modelos Mistral AI de alto desempenho, Mistral 7B e Mixtral 8x7B no Amazon Bedrock . O Mistral 7B, como o primeiro modelo básico do Mistral, suporta tarefas de geração de texto em inglês com capacidades de codificação naturais. Mixtral 8x7B é um modelo popular, de alta qualidade e esparso de Mistura de Especialistas (MoE), ideal para resumo de texto, perguntas e respostas, classificação de texto, conclusão de texto e geração de código.
Hoje, estamos anunciando a disponibilidade do Mistral Large no Amazon Bedrock. Mistral Large é ideal para tarefas complexas que exigem capacidades de raciocínio substanciais ou altamente especializadas, como geração de texto sintético ou geração de código.
No AWS Paris Summit de hoje, também anunciamos que o Amazon Bedrock já está disponível na região Paris AWS, aumentando a lista de novidades interessantes.
O que você precisa saber sobre Mistral Large:
* É nativamente fluente em inglês, francês, espanhol, alemão e italiano, com uma compreensão diferenciada da gramática e do contexto cultural.
* Possui uma janela de contexto de token de 32K que permite a recuperação precisa de informações de documentos grandes.
* Seu seguimento preciso de instruções permite que você projete suas políticas de moderação – o pessoal da Mistral AI o usou para configurar a moderação em nível de sistema de seu demonstrador assistente beta, o Chat . Sua primeira interação com Large Language Models (LLMs) gira em torno de prompts, portanto, a arte de elaborar prompts eficazes é essencial para gerar respostas desejáveis a partir de LLMs. Neste guia Amazon Bedrock, fornecemos mais detalhes sobre como fazer solicitações de inferência para modelos Mistral AI.
Introdução ao Mistral Large
Para começar a usar o Mistral Large no Bedrock, primeiro você precisa obter acesso ao modelo. No console do Amazon Bedrock, selecione Acesso ao modelo e, em seguida, selecione Gerenciar acesso ao modelo . Em seguida, selecione Mistral Large e selecione Salvar alterações.
Depois de ter acesso ao Mistral Large, você pode usar o modelo no Bedrock. Atualize a tabela de modelos básicos para visualizar o status atualizado.
No início deste post mencionei que Mistral Large é nativamente fluente em vários idiomas, com uma compreensão diferenciada da gramática e do contexto cultural.
Para aprender mais recursos de solicitação em modelos Mistral AI, visite a documentação do Mistral AI .
Agora disponível
Mistral Large, junto com outros modelos Mistral AI (Mistral 7B e Mixtral 8x7B), está disponível hoje no Amazon Bedrock nas regiões Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon) e Europa (Paris).
Fique por dentro das inovações tecnológicas aqui no blog da https://www.itexperts.com.br/blog/
Artigo originalmente publicado em Blog AWS