A IA deveria ajudar você a escapar impune do assassinato do seu cônjuge?

Pergunta rápida: Você quer que a IA seja tão bem treinada a ponto de poder ajudar maridos (ou esposas, para falar a verdade) a planejarem o assassinato perfeito de seus cônjuges?

Como uma reação instintiva, me parece que a resposta é não. Eu nem acharia que essa é uma pergunta particularmente difícil.

Mas a América abriga muitas perspectivas diversas, e uma dessas perspectivas foi compartilhada pelo fundador da Comma AI e antigo "jailbreaker" George Hotz no fim de semana.

A postagem surge em resposta a uma série de planos abrangentes de alinhamento de IA, mais recentemente o documento de diretrizes AI 2040: Plan A do AI Futures Project. Esse documento imagina um mundo no qual os pesquisadores do mundo todo decidem coletivamente desacelerar o desenvolvimento da IA por 14 anos para o bien da humanidade. Mas, é claro, nem todo mundo que leu o documento concorda com suas premissas ou conclusão.

De fato, Hotz discorda de toda a premissa de que o progresso da IA deve ser gerido em prol do bem coletivo. Em sua postagem, ele argumenta que o cenário de decolagem rápida — a hipótese em que a IA obtém rapidamente habilidades sobre-humanas — não faz muito sentido. (Eu concordo com muito do que ele diz aqui!) Para Hotz, a melhor abordagem para o alinhamento e a segurança da IA é focar em modelos de IA controlados localmente que estejam fortemente alinhados aos interesses de seus usuários.

Essa é uma ideia legal, até porque me lembra o quanto da IA atual é construída em torno de serviços geridos centralmente, como Claude e ChatGPT. Existem razões relacionadas à infraestrutura para que os serviços de IA sejam desenvolvidos dessa forma: é caro hospedar esses grandes modelos de última geração e a maioria das pessoas não os usa o suficiente ao longo do dia para justificar uma IA verdadeiramente pessoal. Mas esses fatores se tornam menos importantes à medida que a tecnologia se desenvolve. Parte do que foi tão empolgante no OpenClaw foi essa abordagem experimental e "faça você mesmo", e seria ótimo ver mais produtos de IA tentarem recuperar isso.

Mas Hotz é um provocador por natureza, então ele não para por aí. Ele compara a IA alinhada ao usuário a uma arma(!), que não reclama se você a usar para matar sua madrasta. (Sinto que existem outras regras contra isso?) Uma IA verdadeiramente alinhada seria capaz de encomendar equipamentos para um laboratório de metanfetamina na Amazon Prime e te mostrar como usá-los, caso isso seja o que você queria e pediu, diz ele. (Mais uma vez, não acho que a IA seria o fator limitante aqui.) Hotz chega a dizer que morreria para defender esse princípio, embora seja difícil imaginar a série de eventos que levaria a isso.

“Ou vivemos em um mundo com liberdade ou não vivemos,” escreve Hotz. Se essas são as opções, o mundo da liberdade parece melhor mesmo! Ainda assim, eu não sei.

Não se trata apenas de liberdade, certo? Qualquer estrutura que envolva muitas pessoas (sociedades, mercados, corporações, etc.) exige o equilíbrio de interesses, unindo necessidades individuais em uma rede de preferências interdependentes e sistemas de prestação de contas. E qualquer pessoa que implante produtos tecnológicos de massa provavelmente deveria pensar nessa rede como um todo, o que significa levar a sério os interesses dos cônjuges e padrastos ainda não assassinados do mundo.

A liberdade que Hotz vivencia é, na verdade, um espaço de futuros potenciais possibilitados por empreendimentos coletivos; esses futuros desapareceriam da noite para o dia se todos nós começássemos a nos comportar como pequenos Napoleões impulsionados por IA. Como diz o meme, nós vivemos em uma sociedade.

Ter uma IA local disposta a enfrentar o mundo corporativo para o meu benefício parece legal, no entanto! Mal posso esperar por uma unidade de teste.