Get Even More Visitors To Your Blog, Upgrade To A Business Listing >>

Crise na OpenAI: startup já estava dividida antes de expulsar Sam Altman

 Antes de Sam Altman ser demitido da OpenAI na semana passada, ele e o Conselho de administração da empresa já estavam brigando há mais de um ano. A tensão piorou quando a OpenAI se tornou um nome popular graças ao seu popular chatbot ChatGPT.

Em um determinado momento, Altman, o presidente executivo, tentou expulsar um dos membros do conselho por considerar que um trabalho de pesquisa que ela havia escrito em conjunto criticava a empresa.

Outro membro, Ilya Sutskever, achava que Altman nem sempre estava sendo honesto ao falar com o conselho. E alguns membros do conselho temiam que Altman estivesse muito concentrado na expansão, enquanto eles queriam equilibrar esse crescimento com a segurança da inteligência artificial (IA).

A notícia de que ele estava sendo afastado veio em uma videoconferência na tarde de sexta-feira, quando Sutskever, que havia trabalhado com Altman na OpenAI por oito anos, leu uma declaração para ele. A decisão surpreendeu os funcionários da OpenAI e expôs os membros da diretoria a perguntas difíceis sobre suas qualificações para gerenciar uma empresa de tão alto nível.

Aparentemente, essas tensões chegaram ao fim na terça-feira, quando Altman foi reintegrado ao cargo de CEO. Sutskever e outros críticos de Altman foram expulsos do conselho, cujos membros agora incluem Bret Taylor, um dos primeiros executivos do Facebook e ex-chefe executivo da Salesforce, e Larry Summers, ex-secretário do Departamento do Tesouro dos Estados Unidos. O único remanescente é Adam D’Angelo, executivo-chefe do site de perguntas e respostas Quora.

O desastre da OpenAI ilustrou como a criação de sistemas de IA está testando se os empresários que querem ganhar dinheiro com a inteligência artificial podem trabalhar em sincronia com os pesquisadores que se preocupam com o fato de que o que eles estão criando pode acabar eliminando empregos ou se tornar uma ameaça se tecnologias como armas autônomas ficarem fora de controle.

OpenAI foi fundada em 2015 por Sam Altman e Elon Musk, entre outras pessoas Foto: Dado Ruvic/Reuters - 3/2/2023

A OpenAI foi fundada em 2015 com um plano ambicioso de um dia criar um sistema automatizado superinteligente que possa fazer tudo o que um cérebro humano pode fazer. Mas o atrito atormentou a diretoria da empresa, que nem sequer conseguiu chegar a um acordo sobre os substitutos dos membros que haviam deixado o cargo.

Antes do retorno de Altman, a existência contínua da empresa estava em dúvida. Quase todos os 800 funcionários da OpenAI ameaçaram seguir Altman para a Microsoft, que o convidou para liderar um laboratório de IA com Greg Brockman, que deixou seus cargos de presidente da OpenAI e presidente do conselho em solidariedade a Altman.

A diretoria havia dito a Brockman que ele não seria mais o presidente do conselho da OpenAI, mas o convidou a permanecer na empresa - embora ele não tenha sido convidado para a reunião em que foi tomada a decisão de afastá-lo da diretoria e Altman da empresa.

Os problemas do conselho da OpenAI podem ser atribuídos aos primórdios sem fins lucrativos da startup. Em 2015, Altman se uniu a Elon Musk e outros, incluindo Sutskever, para criar uma organização sem fins lucrativos para desenvolver uma IA que fosse segura e benéfica para a humanidade. Eles planejavam arrecadar dinheiro de doadores privados para sua missão. Mas, em poucos anos, perceberam que suas necessidades de computação exigiam muito mais financiamento do que poderiam arrecadar de pessoas físicas.

Após a saída de Musk, em 2018, eles criaram uma subsidiária com fins lucrativos que começou a arrecadar bilhões de dólares de investidores, incluindo US$ 1 bilhão da Microsoft. Eles disseram que a subsidiária seria controlada pelo conselho sem fins lucrativos e que o dever fiduciário de cada diretor seria para “a humanidade, não para os investidores da OpenAI”, disse a empresa em seu site.

Uma delas envolveu seu conflito com Helen Toner, membro do conselho e diretora de estratégia do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown. Algumas semanas antes da demissão de Altman, ele se reuniu com Helen para discutir um artigo que ela havia coescrito para o centro de Georgetown.

Altman reclamou que o trabalho de pesquisa parecia criticar os esforços da OpenAI para manter suas tecnologias de IA seguras, ao mesmo tempo em que elogiava a abordagem adotada pela Anthropic, uma empresa que se tornou a maior rival da OpenAI, de acordo com um e-mail que Altman escreveu para colegas e que foi visto pelo The New York Times.

No e-mail, Altman disse que havia repreendido Helen pelo artigo e que ele era perigoso para a empresa, especialmente em um momento em que a Comissão Federal de Comércio (FTC, na sigla em inglês) estava investigando a OpenAI sobre os dados usados para construir sua tecnologia.

Toner o defendeu como um artigo acadêmico que analisava os desafios que o público enfrenta ao tentar entender as intenções dos países e das empresas que desenvolvem a IA. Mas o Sr. Altman discordou.

“Não senti que estivéssemos na mesma página sobre os danos de tudo isso”, escreveu ele no e-mail. “Qualquer crítica de um membro da diretoria tem muito peso.”

Da esq. para dir., executivos seniores da OpenAI até a semana passada: Mira Murati (chefe de tecnologia), Sam Altman (presidente executivo), Greg Brockman (presidente) e Ilya Sutskever (cientista chefe) Foto: Jim Wilson/The New York Times - 20/10/2023

Os líderes seniores da OpenAI, incluindo Sutskever, que está profundamente preocupado com a possibilidade de a IA um dia destruir a humanidade, discutiram posteriormente se Helen Toner deveria ser removida, disse uma pessoa envolvida nas conversas.

Porém, logo após essas discussões, Sutskever fez o inesperado: Ele ficou do lado dos membros do conselho para demitir Altman, de acordo com duas pessoas familiarizadas com as deliberações do conselho. A declaração que ele leu para Altman dizia que o Altman estava sendo demitido porque não era “consistentemente sincero em suas comunicações com o conselho”.

A frustração de Sutskever com Altman ecoou o que aconteceu em 2021, quando outro cientista sênior de IA deixou a OpenAI para formar a Anthropic. Esse cientista e outros pesquisadores foram à diretoria para tentar expulsar Altman. Depois de fracassarem, eles desistiram e foram embora, de acordo com três pessoas familiarizadas com a tentativa de expulsar Altman.

“Após uma série de negociações razoavelmente amigáveis, os co-fundadores da Anthropic conseguiram negociar sua saída em termos mutuamente aceitáveis”, disse uma porta-voz da Anthropic, Sally Aldous. Em uma segunda declaração, a Anthropic acrescentou que não houve “nenhuma tentativa de ‘expulsar’ Sam Altman no momento em que os fundadores da Anthropic deixaram a OpenAI”.

As vagas exacerbaram os problemas da diretoria. Este ano, o conselho discordou sobre como substituir três diretores que estavam saindo: Reid Hoffman, fundador do LinkedIn e membro do conselho da Microsoft; Shivon Zilis, diretora de operações da Neuralink, uma empresa criada por Musk para implantar chips de computador no cérebro das pessoas; e Will Hurd, ex-congressista republicano do Texas.

Depois de examinar quatro candidatos para um cargo, os diretores restantes não conseguiram chegar a um acordo sobre quem deveria ocupá-lo, disseram as duas pessoas familiarizadas com as deliberações do conselho. O impasse agravou a divisão entre Altman, Brockman e outros membros do conselho.

Horas após a destituição de Altman, os executivos da OpenAI confrontaram os membros restantes do conselho durante uma chamada de vídeo, de acordo com três pessoas que estavam na chamada.

Durante a ligação, Jason Kwon, diretor de estratégia da OpenAI, disse que o conselho estava colocando em risco o futuro da empresa ao expulsar Altman. Isso, segundo ele, violava as responsabilidades dos membros.

Helen Toner discordou. A missão do conselho era garantir que a empresa criasse uma inteligência artificial que “beneficiasse toda a humanidade”, e se a empresa fosse destruída, disse ela, isso poderia ser coerente com sua missão. Na opinião da diretoria, a OpenAI seria mais forte sem Altman.

No domingo, Sutskever foi instado no escritório da OpenAI a reverter o curso pela esposa do Brockman, Anna, de acordo com duas pessoas familiarizadas com a troca de informações. Horas depois, ele assinou uma carta com outros funcionários exigindo a renúncia dos diretores independentes. O confronto entre Sutskever e Brockman foi relatado anteriormente pelo The Wall Street Journal.

Às 5h15 da manhã de segunda-feira, ele postou no X, antigo Twitter, que “lamento profundamente minha participação nas ações do conselho



This post first appeared on Now & Zen - Blog De Cidades, Dicas, Entrevistas, F, please read the originial post: here

Share the post

Crise na OpenAI: startup já estava dividida antes de expulsar Sam Altman

×

Subscribe to Now & Zen - Blog De Cidades, Dicas, Entrevistas, F

Get updates delivered right to your inbox!

Thank you for your subscription

×