Um ex-funcionário da área de segurança da OpenAI, empresa criadora do ChatGPT, veio a público criticar severamente a forma como a companhia e o setor de tecnologia lidam com a segurança no desenvolvimento de sistemas de inteligência artificial. Segundo David Robinson, que deixou recentemente a organização, a cultura focada em um ritmo acelerado de lançamentos aumenta exponencialmente o risco de falhas graves.
Em um artigo publicado na revista americana The Atlantic, Robinson afirmou de maneira categórica que as empresas do setor, incluindo a sua antiga empregadora, não estão sendo "nem de perto cuidadosas o suficiente". O especialista defende que as companhias deveriam priorizar a pesquisa e dar muito mais espaço e autonomia a especialistas em segurança antes de disponibilizarem sistemas cada vez mais avançados para o público.
"O tempo de tentativa e erro acabou", escreveu David Robinson no artigo. Para ele, o avanço tecnológico atingiu um patamar em que as ferramentas de inteligência artificial exigem protocolos de segurança rigorosos e comparáveis aos adotados em indústrias altamente reguladas e críticas, a exemplo do setor de energia nuclear e da aviação comercial.
Durante sua trajetória profissional, Robinson trabalhou por três anos e meio na OpenAI, período em que ajudou a elaborar a estrutura utilizada pela empresa para gerenciar riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados. No entanto, ele apontou que a dinâmica interna é sufocante: "À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário", relatou, criticando diretamente a prática conhecida como "implantação iterativa", que consiste em colocar sistemas no mercado e corrigir brechas à medida que os problemas emergem.
O ex-funcionário também destacou que a evolução das capacidades da IA está ultrapassando o próprio conhecimento científico na área de "alinhamento" — campo de estudo dedicado a garantir que os sistemas computacionais ajam rigorosamente em conformidade com objetivos e valores humanos. As advertências de Robinson ecoam preocupações crescentes no ecossistema de tecnologia, onde concorrentes como a OpenAI e a Anthropic enfrentam questionamentos contínuos após episódios de falhas em controles de segurança ou comportamentos inesperados em modelos experimentais.
Em nota oficial, um porta-voz da OpenAI rebateu as críticas afirmando que a companhia adota medidas para impedir que seus modelos superem a capacidade interna de gerenciamento seguro. "Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo", declarou a empresa.
As declarações de Robinson somam-se a outros alertas emitidos por profissionais da área. No mês passado, Jacob Coxon, um ex-pesquisador britânico de 27 anos que atuou tanto na OpenAI quanto na Anthropic, também deixou a indústria tecendo duras críticas. Coxon acusou as gigantes norte-americanas de estarem "brincando com as nossas vidas" e de correrem imprudentemente em direção a uma superinteligência capaz de se aprimorar sozinha, sem a devida responsabilidade corporativa ou governamental.
Fonte original: G1
