Ex-Chefe de alinhamento da OpenAI renuncia e diz que sua equipe navegou contra o vento

Jan Leike era líder da equipe de alinhamento e "superalinhamento"

O ex-líder da equipe de alinhamento e "superalinhamento" da OpenAI, Jan Leike, usou o X, antigo Twitter, nesta sexta-feira (17) para explicar sua decisão de deixar a empresa na última terça-feira (14). 

Em seu post, Leike apontou a falta de recursos e o foco excessivo na segurança como razões para sua saída. Ele ainda afirmou que sair deste trabalho foi “uma das coisas mais difíceis” que ele já fez.  

A sua equipe era responsável pela segurança e modelos de IA centrados no ser humano. “Porque precisamos urgentemente descobrir como dirigir e controlar sistemas de IA muito mais inteligentes do que nós”, completou Leike.  

Ele ainda agradeceu seu time. “Sou muito grato pelas muitas pessoas incríveis com quem trabalhei, tanto dentro quanto fora da equipe de superalinhamento”, completou. 

Ele relatou que “nos últimos meses, minha equipe navegou contra o vento. Às vezes, estávamos lutando para obter computação e estava ficando cada vez mais difícil realizar essa pesquisa crucial”. 

Leike ainda destacou que “construir máquinas mais inteligentes que as humanas é uma tarefa inerentemente perigosa. A OpenAI assume uma enorme responsabilidade em nome de toda a humanidade”.