Na terça-feira (28), a OpenAI anunciou a formação de um novo comitê responsável por fazer recomendações ao conselho da empresa sobre segurança e proteção, apenas semanas depois de dissolver uma equipe dedicada à segurança de inteligência artificial.
Segundo a OpenAI, o novo comitê será liderado pelo CEO Sam Altman, pelo presidente do conselho Bret Taylor e pela membro do conselho Nicole Seligman.
Este anúncio vem na esteira da saída de Jan Leike, um executivo focado em segurança na OpenAI, que alegou que a empresa havia investido insuficientemente na segurança de IA e que as tensões com a liderança haviam atingido um ponto crítico.
A reestruturação também segue a saída de Ilya Sutskever, líder da equipe de “superalinhamento” da OpenAI, que tinha como objetivo garantir que o desenvolvimento da IA estivesse alinhado com as necessidades e prioridades humanas. Sutskever teve um papel significativo na controvérsia envolvendo a demissão e posterior retorno de Altman ao cargo de CEO no ano passado.
No início deste mês, um porta-voz da OpenAI informou à CNN Internacional que a dissolução da equipe de superalinhamento e a redistribuição dos funcionários em toda a empresa visavam melhorar o alcance dos objetivos de superalinhamento.
Na declaração de terça-feira, a OpenAI também mencionou que iniciou o treinamento de um novo modelo de IA, destinado a suceder o modelo atual que alimenta o ChatGPT. Este novo modelo de IA será mais um avanço rumo à inteligência artificial geral.
“Estamos orgulhosos de construir e lançar modelos líderes do setor em capacidades e segurança, e damos boas-vindas a um debate robusto neste momento crucial”, declarou a empresa.
“A primeira tarefa do Comitê de Segurança e Proteção será avaliar e desenvolver os processos e salvaguardas da OpenAI nos próximos 90 dias”, acrescentou a nota. “Ao final deste período, o comitê compartilhará suas recomendações com o Conselho. Após a revisão do Conselho, a OpenAI divulgará publicamente uma atualização sobre as recomendações adotadas, de maneira consistente com a segurança e proteção.”
.jpg)
Commentaires