CEO da DeepMind pede órgão de padrões independente para regulamentar IA de fronteira
Em uma publicação no X na terça-feira de manhã, o CEO do Google DeepMind, Demis Hassabis, pediu a criação de um novo órgão regulador para supervisionar o lançamento de modelos de fronteira. Intitulada “Uma Estrutura para a IA de Fronteira e o Amanhecer de uma Nova Era”, a publicação defende um “órgão de normas” nos moldes da Autoridade Reguladora da Indústria Financeira (FINRA), capaz de testar modelos de fronteira e desenvolver as melhores práticas para o seu lançamento.
“Inicialmente, os Laboratórios de Fronteira compartilhariam voluntariamente os modelos com o Órgão de Normas para revisão até 30 dias antes do lançamento”, diz a publicação. “Assim que o protocolo de avaliação se mostrar eficaz e robusto, a formalização poderá ocorrer rapidamente, o que significa que os Modelos de Fronteira seriam obrigados a passarem por ele para serem implantados no mercado dos EUA. Os laboratórios também trabalhariam com o Órgão de Normas para solucionar quaisquer vulnerabilidades críticas pós-lançamento.”
O sistema proposto se basearia nas revisões pontuais realizadas pelo governo dos EUA sobre o Mythos, da Anthropic, e o Sol, da OpenAI. Essas revisões atraíram críticas significativas devido à falta de conhecimento técnico e à tomada de decisões opaca sobre quando um modelo poderia ser lançado. Sob o regulador proposto por Hassabis, essas decisões poderiam ser transferidas para uma nova organização, apoiada pelo governo dos EUA, mas financiada pela indústria de IA e operada de forma independente.
A perspectiva de regulamentação da IA continua controvertida tanto para a indústria de tecnologia quanto para o governo Trump. Mais recentemente, o conselheiro de IA da Casa Branca e sócio-gerente da a16z, Sriram Krishnan, descartou a possibilidade de um regulador de IA dentro do poder executivo, dizendo que “não haverá um FDA para a IA.”
Estabelecer o órgão de normas como uma organização autorreguladora como a FINRA pode ser uma maneira de abordar essas preocupações. Hassabis idealiza que o regulador seja composto por representantes de código aberto e especialistas técnicos de dentro da indústria, juntamente com o apoio financeiro dos laboratórios de IA que seria necessário para retê-los. Eles poderiam até mesmo terceirizar algumas avaliações para o grupo crescente de organizações de segurança de IA que seriam capazes de se especializar em riscos específicos.
“A força dessa abordagem é que ela seria focada tecnicamente, ao mesmo tempo em que apoiaria a inovação e incentivaria o comportamento responsável”, argumenta Hassabis. “Ela foi projetada para acompanhar a aceleração do setor e se adaptar aos maiores riscos à medida que forem identificados, podendo ser intensificada se a gravidade da situação o exigir.”
