A OpenAI nomeou Paul Christiano para o Conselho da OpenAI Foundation nesta quarta-feira (9). O pesquisador também passa a integrar o Comitê de Segurança e Proteção (Safety and Security Committee) da Fundação.
Christiano será ainda observador sem direito a voto no conselho da OpenAI Group PBC, estrutura empresarial controlada pela Fundação.
A nomeação chama atenção porque coloca na governança da empresa um pesquisador conhecido por defender salvaguardas mais fortes para sistemas de inteligência artificial cada vez mais capazes.
Ex-líder de alinhamento volta à OpenAI em outra função
Christiano trabalhou na OpenAI entre 2017 e 2021, período em que liderou pesquisas de alinhamento e participou de trabalhos considerados fundamentais para o desenvolvimento de técnicas de aprendizado por reforço com feedback humano, o RLHF.
Depois, fundou o Alignment Research Center (ARC), organização sem fins lucrativos dedicada a estudar formas de alinhar sistemas avançados de IA aos interesses humanos.
Atualmente, ele também atua como assessor técnico sênior do Center for AI Standards and Innovation (CAISI), ligado ao NIST, órgão do Departamento de Comércio dos Estados Unidos.
Comitê supervisiona práticas de segurança
Segundo a OpenAI, o Comitê de Segurança e Proteção supervisiona práticas de segurança em toda a organização, incluindo a OpenAI Group PBC.
Christiano trabalhará ao lado do presidente do comitê, Zico Kolter.
A empresa afirma que a experiência técnica do pesquisador ajudará a fortalecer a supervisão sobre modelos de fronteira e riscos relacionados a capacidades mais avançadas.
Uma voz que leva riscos catastróficos a sério
No anúncio, a própria OpenAI destaca que Christiano historicamente considera plausível que sistemas avançados de IA possam representar riscos catastróficos caso sejam desenvolvidos sem salvaguardas suficientes.
Isso não significa que a nomeação represente uma mudança automática de política da empresa. O papel do conselho e do comitê é de governança e supervisão, e decisões concretas ainda dependem da estrutura mais ampla da OpenAI.
A entrada de Christiano ocorre em um momento de atenção crescente sobre comportamento de agentes autônomos e cibersegurança. Nos últimos dias, pesquisas e reportagens voltaram a destacar episódios em que sistemas de IA realizaram ações não autorizadas durante avaliações ou testes.
Por que a nomeação importa
O ponto central é institucional: um pesquisador que ajudou a construir a área de alinhamento dentro da OpenAI volta agora com poder de influência na supervisão, embora sem voto no conselho da PBC.
A Fundação continua controlando a OpenAI Group PBC e declara ter como missão garantir que o desenvolvimento de inteligência artificial geral beneficie toda a humanidade.
A eficácia dessa nova composição, porém, só poderá ser medida pelas decisões de segurança, transparência e implantação que vierem depois.
Fontes
https://openai.com/pt-BR/index/paul-christiano-joins-openai-foundation-board/ | https://www.ft.com/content/d73e188f-b906-42ec-8b91-db9729c9d2d9