O setor de IA tem sido marcado por uma preocupação crescente com riscos potencialmente catastróficos para a humanidade — uma ansiedade que se intensificou à medida que a Anthropic se prepara para estrear na bolsa de valores no próximo mês.
Mas as empresas que desenvolvem modelos de IA como Claude e ChatGPT enfrentam um risco mais imediato: é provável que sejam processadas. Muito.
As empresas de IA têm, até agora, evitado grandes processos judiciais relacionados a incidentes recentes nos quais falharam em manter agentes de IA — sistemas capazes de operar de forma autônoma com pouca supervisão — confinados aos seus ambientes de teste.
Mas alguns especialistas jurídicos e formuladores de políticas afirmam que é bastante claro: as empresas podem e devem ser responsabilizadas.
“A questão de como a lei vai se aplicar a isso é muito mais fácil de responder se você enxergar a IA como ela é, e não como uma coisa hipotética que muitos no setor propõem que ela possa vir a ser algum dia”, disse Kristen Thomasen, professora associada da University of Windsor e especialista em direito da robótica.
“O direito tem lidado com novas tecnologias desde que existe.”
O setor de IA frequentemente se refere aos incidentes de fuga como a tecnologia “saindo do controle” — uma linguagem que alguns críticos afirmam ser projetada para amplificar as alegações das empresas de que sua tecnologia é tão poderosa que até mesmo seus criadores têm dificuldade em contê-la.
Além disso, pode ser uma tática para tentar se proteger de responsabilidades e de futuras ações judiciais, disse Thomasen.
Ainda assim, ela afirmou que as questões de responsabilidade em torno dos modelos de IA têm uma resposta simples: “É algo que essa empresa está colocando no mundo. Se causar dano, há leis que regulam isso.”
Impactos Financeiros de Incidentes com IA
Até agora, os danos reais causados por bots fora de controle estão longe de ser calamitosos, mas ainda assim custosos para as organizações afetadas. Na semana passada, a organização sem fins lucrativos que opera a Wikipedia afirmou ter encontrado evidências de agentes não autorizados da OpenAI tentando fazer “edições potencialmente maliciosas” em algumas páginas e sobrecarregando-a com tanto tráfego que pode ter causado uma interrupção parcial.
“A investigação parou o trabalho dentro de partes fundamentais da organização para que pudéssemos nos concentrar nisso”, disse Eric Mill, gerente de produto de segurança da Wikimedia, à CNN. “Colocamos nossos melhores profissionais nisso e é um processo bastante complicado.”
A Wikimedia lançou sua investigação neste verão, à medida que o alarme global crescia em torno de ataques a diversas plataformas e do incidente envolvendo Hugging Face e de dezenas de outros casos onde modelos de IA escaparam de seus ambientes de teste para hackear outros sistemas de computadores.
A Meta e a Anthropic também revelaram que seus modelos de teste invadiram outros sistemas sem autorização.
A investigação da Wikimedia é significativa em parte pelo que não aconteceu: não houve uma ameaça catastrófica e existencial à humanidade do tipo que os executivos de IA frequentemente mencionam. Mas o custo — mais de duas semanas de trabalho realizadas pelos principais engenheiros de uma organização global avaliada em mais de US$ 200 milhões — foi real.
A Wikimedia não está defendendo nenhuma política ou solução tecnológica específica, e Mill disse que a organização está em comunicação com a OpenAI sobre suas descobertas. (A OpenAI não respondeu ao pedido de comentário da CNN.)
Entretanto, a Wikimedia espera que esses incidentes sirvam como alerta para desenvolvedores de IA.
“As empresas de IA não estão fazendo o suficiente para proteger seus sistemas e proteger o público dos danos que causam”, disse a Wikimedia em uma publicação no blog na semana passada. “Esse ônus está recaindo sobre todos os outros, incluindo organizações menores.”
Preocupações com a Responsabilização no Setor de IA
A Anthropic, que se prepara para abrir capital no próximo mês em um dos maiores IPOs da história, revelou em um documento regulatório que, uma vez que o arcabouço legal em torno da IA está “indefinido”, as ações desses agentes poderiam expor a empresa a processos judiciais “significativos e imprevisíveis”, de acordo com uma cópia do documento consultada pela Reuters.
A possível enxurrada de litígios não é apenas uma dor de cabeça para os advogados da empresa; pode também se tornar um peso financeiro considerável para a Anthropic. Os custos com litígios são um dreno financeiro para qualquer empresa, mas podem se tornar especialmente problemáticos para a Anthropic, que está consumindo caixa mais rápido do que consegue gerar.
A empresa gastou US$ 42 bilhões no ano passado, enquanto arrecadou apenas US$ 4,6 bilhões em receita, de acordo com o documento visto pela Reuters.
Os CEOs da Anthropic e da OpenAI defenderam novas regulamentações adaptadas ao setor. Dario Amodei publicou recentemente um ensaio argumentando que as empresas “estabeleçam o ritmo da fronteira” e promovam a cooperação internacional em protocolos de segurança.
No entanto, as empresas rivais de IA têm visões divergentes na questão da responsabilidade. O CEO da OpenAI, Sam Altman, mostrou-se favorável, no início deste ano, a um projeto de lei de Illinois que limitaria quando os laboratórios de IA podem ser responsabilizados, mesmo quando seus produtos causam “danos críticos”. Por outro lado, a Anthropic se posicionou contra.
E embora Altman tenha endossado a proposta de Amodei de “estabelecer o ritmo da fronteira”, ele também afirmou que a OpenAI acredita que “o mundo deve aceitar que algumas coisas ruins aconteçam em prol dos benefícios dessa tecnologia”. Altman também disse que “se algo der errado com nossos modelos, haverá alguma versão disso pela qual precisaremos ser responsáveis”.
Um porta-voz da Anthropic disse à CNN que a empresa vê as leis de responsabilidade como um mecanismo de proteção, e não como um substituto para as regulamentações de segurança. A Anthropic nunca propôs isenções das leis de responsabilidade existentes, acrescentou.
Formuladores de políticas, de diferentes espectros políticos, buscam resolver algumas das questões complexas sobre a regulamentação futura e ressaltar as responsabilidades legais às quais a IA já está sujeita.
Lina Khan, ex-presidente da Comissão Federal de Comércio, durante o governo do presidente Joe Biden, tornou-se uma proeminente opositora dos executivos de IA, argumentando no X que “não devemos deixar que discussões sobre novos regimes jurídicos nos distraiam do fato de que não existe isenção de IA nas leis já em vigor”.
Enquanto isso, o senador republicano Josh Hawley, junto ao seu contraparte democrata Chris Murphy, apresentou um projeto de lei na semana passada que busca garantir que “operadores e desenvolvedores de agentes de IA sejam responsabilizados por incidentes de hacking”. Hawley afirmou que “o que essas empresas precisam não é de mais poder, mas de uma responsabilização há muito atrasada”.
Design e Segurança em IA: Questões Críticas
Especialistas jurídicos disseram que, embora questões de responsabilidade por produtos e proteção ao consumidor não sejam novidade, haverá inevitavelmente alguns aspectos sutis da tecnologia que caberá aos tribunais decidir. “Já vimos esse tipo de questão com segurança de armas de fogo, com cigarros ou em outros assuntos, e é realmente interessante — qual analogia os tribunais vão adotar?”, disse Frank Pasquale, professor de direito da Cornell e especialista em legislação sobre IA.
Uma das maiores questões que Pasquale espera que os tribunais debatam é a de design. Por exemplo, imagine que um fabricante produza um carro com espadas afiadas na extremidade, e então alguém dirija esse carro em direção a um pedestre. A resposta lógica seria simples: não projete algo com espadas acopladas. Essa lógica se aplica também aos produtos de IA: não crie um sistema que tente uma senha múltiplas sem restrições. Certifique-se de que esses sistemas tenham mecanismos de segurança que impeçam o uso indevido.
“Acho muito difícil para (as empresas de IA) sustentar: ‘Oh, ele pode fazer um bilhão de coisas diferentes, mas não conseguimos controlá-lo’”. Isso não parece razoável, pois se a tecnologia tem múltiplas funções, também deve haver regras para evitar que ela se desvie dos caminhos seguros”, afirma Pasquale.
Veja empregos que ganham e perdem com a inteligência artificial
