A OpenAI anunciou nesta segunda-feira, 9, a aquisição da Promptfoo, uma empresa especializada em identificar e remediar vulnerabilidades em sistemas de inteligência artificial em desenvolvimento. Em especial, a tecnologia é destinada para a correção em grandes modelos de linguagem (LLMs) e agentes.
Na visão da compradora, à medida que as empresas adicionam agentes aos ambientes laborais haverá uma necessidade com fluxo de trabalho, validação, segurança e compliance. Isso demandará formas sistêmicas de testar comportamentos e detectar riscos em agentes, assim como manter registros claros para dar suporte, governança e responsabilização ao longo do tempo.
De acordo com o Crunchbase, a Promptfoo acumulou US$ 23,4 milhões em uma rodada de seed e outra de série A capitaneadas por Insight Partners e Andreessen Horowitz. Atualmente, a startup tem 25 das 500 principais empresas dos Estados Unidos usando a sua suíte ferramental.
Os valores da compra não foram informados.
Próximos passos da OpenAI
A aquisição depende de aprovação dos órgãos reguladores dos Estados Unidos. Uma vez confirmada a compra, o time da startup e seus dois gestores (Ian Webster e Michael D’Angelo) serão incorporados à big AI, que recebeu US$ 110 bilhões de investimento no final de fevereiro.
Com isso, a OpenAI pretende adicionar a Promptfoo e seus recursos de testes de segurança, avaliação integradas aos fluxos de trabalho e de supervisão e responsabilidade em sua plataforma de construção e execução de agentes, a OpenAI Frontier.
Imagem principal: Ilustração produzida por Mobile Time com IA.
