A OpenAI formou um Comitê de Segurança e Proteção, que será liderado por membros do conselho, incluindo o CEO Sam Altman, enquanto se prepara para treinar seu próximo modelo de inteligência artificial, anunciou a startup de IA nesta terça-feira (28).
Além de Sam Altman, os diretores Bret Taylor, Adam D’Angelo e Nicole Seligman também liderarão o comitê, conforme comunicado da OpenAI em um post em seu blog. Apoiada pela Microsoft, a OpenAI está avançando em direção a novos horizontes com seus chatbots, que possuem capacidades generativas de IA, como engajamento em conversas semelhantes às humanas e criação de imagens com base em instruções de texto. Esses avanços levantaram preocupações de segurança à medida que os modelos de IA se tornaram mais poderosos.
O novo comitê será responsável por fazer recomendações ao conselho sobre decisões de segurança para os projetos e operações da OpenAI. “Um novo comitê de segurança significa que a OpenAI está concluindo uma mudança para se tornar uma entidade comercial, de uma entidade sem fins lucrativos mais indefinida”, disse o diretor-gerente da DA Davidson, Gil Luria.
A OpenAI dissolveu a equipe de Superalinhamento no início de maio, menos de um ano depois de a empresa a ter criado, com alguns membros da equipe sendo transferidos para outros grupos, informou a CNBC dias após as saídas de alto nível.
A primeira tarefa do comitê será avaliar e desenvolver ainda mais as práticas de segurança existentes da OpenAI durante os próximos 90 dias, após os quais compartilhará recomendações com o conselho. Após a revisão do conselho, a OpenAI compartilhará publicamente uma atualização sobre as recomendações adotadas, disse a empresa.
A OpenAI não forneceu mais detalhes sobre o novo modelo de “fronteira” que está treinando, exceto que ele elevaria seus sistemas ao “próximo nível de capacidades em nosso caminho para AGI” (Inteligência Artificial Geral). No início de maio, a empresa anunciou um novo modelo de IA capaz de realizar conversas por voz realistas e interações através de texto e imagem.