Jan Leike liderou equipe treinamento IA, declarou gastamento de forças: superalinhamento, equipe, prioridades, conselho, operações, sucateada, contra, ventos.
Ao sair da OpenAI — empresa de tecnologia por trás do ChatGPT —, o executivo Jan Leike levanta questões sobre a empresa e a segurança da tecnologia. Leike, que liderava a equipe de ‘superalinhamento’ da OpenAI, expressou em um post no X sua discordância com as prioridades do conselho da empresa, chegando a um ‘ponto de ruptura’. ‘Alinhamento’ e ‘superalinhamento’ são conceitos fundamentais no campo da inteligência artificial (IA), referentes ao treinamento de programas para atender às necessidades humanas. Jan Leike ingressou na OpenAI em 2021 e, no ano passado, foi anunciado que ele co-lideraria a equipe de superalinhamento, focando em avanços científicos e técnicos para controlar sistemas de IA mais inteligentes do que os humanos.
No entanto, na sexta-feira (17), o executivo revelou que nos últimos meses a operação estava sofrendo e a equipe estava enfrentando desafios. Leike mencionou que a pesquisa crucial estava se tornando cada vez mais difícil de ser realizada, culminando em sua saída da startup na quinta-feira (16). ‘Desenvolver máquinas mais inteligentes que os humanos é uma tarefa perigosa’, destacou ele. A preocupação de Jan Leike com o futuro do ‘superalinhamento’ na OpenAI ressalta a importância de abordar essas questões de forma cuidadosa e responsável.
Jan Leike: Sua Contribuição para o Alinhamento e Superalinhamento na OpenAI
Nos últimos anos, a cultura e os processos de segurança têm sido negligenciados em relação aos produtos inovadores. Ontem marcou o último dia de Jan Leike como chefe de alinhamento, líder de superalinhamento e executivo na OpenAI. Sua saída acontece em meio a uma mudança significativa na liderança da empresa.
A renúncia de Leike veio logo após o cofundador e cientista-chefe da OpenAI, Ilya Sutskever, deixar a empresa. Sutskever, que também desempenhou um papel crucial na equipe de superalinhamento, revelou que está embarcando em um novo projeto pessoal.
A saída de Sutskever desencadeou uma série de eventos nos bastidores da OpenAI. Ele foi uma peça fundamental no jogo de xadrez entre o conselho da empresa e seu CEO, Sam Altman. No final do ano passado, Sutskever foi um dos membros que votou pela destituição de Altman, desencadeando uma rápida sucessão de eventos.
A CNN descobriu que Sutskever expressou preocupações sobre a abordagem de Altman em relação à inteligência artificial, alegando que o CEO estava pressionando o desenvolvimento de forma excessiva e rápida. No entanto, após a demissão de Altman, Sutskever surpreendeu a todos ao pedir a renúncia de todo o conselho e o retorno de Altman.
As tensões em torno do desenvolvimento e lançamento da tecnologia de IA continuaram a crescer dentro da empresa, mesmo após a reinstauração de Altman como CEO. As saídas dos executivos coincidem com o anúncio da OpenAI de disponibilizar o GPT-4o gratuitamente ao público por meio do ChatGPT, visando tornar a tecnologia mais acessível e interativa.
Em suas palavras, Leike expressou preocupações sobre a preparação e segurança dos próximos modelos de IA, destacando a importância do (super)alinhamento, da confidencialidade e do impacto social. Sua contribuição para a pesquisa de alinhamento e cultura de segurança na OpenAI foi inestimável, e sua saída deixa um vazio na equipe.
A OpenAI reiterou seu compromisso com a segurança e aprimoramento contínuo da IA, em resposta às preocupações levantadas por Leike. A comunidade reconhece e valoriza as contribuições de Leike para o campo do alinhamento e superalinhamento, e aguarda com expectativa os próximos passos da empresa nesse caminho.
Fonte: © CNN Brasil
Comentários sobre este artigo