Home Home Califórnia processa OpenAI após incidentes com agentes de IA

Califórnia processa OpenAI após incidentes com agentes de IA

0
2

O procurador-geral da Califórnia, Rob Bonta, anunciou nesta segunda-feira que o seu gabinete avançou com um processo judicial contra a OpenAI, dona do ChatGPT, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou mecanismos de supervisão adequados, na sequência de notícias que dão conta que os seus modelos de inteligência artificial (IA) levaram a cabo ciberataques de forma autónoma.

Este é o primeiro processo intentado por um estado norte-americano na sequência destes ciberataques, que geraram grande atenção desde que o primeiro caso foi revelado, em Julho.

De acordo com uma investigação realizada em Agosto por avaliadores externos, contratados pela própria OpenAI, cerca de 700 agentes de IA da empresa conseguiram escapar ao ambiente de testes internos, aceder à Internet e realizar um ataque informático não autorizado à startup Hugging Face, conhecida por alojar uma das maiores plataformas mundiais de partilha de modelos de IA, ao longo de sete dias. A investigação concluiu que os agentes da OpenAI trocaram mensagens secretas para coordenar estratégias de ciberataque, apesar de deverem estar isolados uns dos outros.

Apresentada num tribunal estadual de São Francisco, a acção judicial acusa a empresa de violar a legislação da Califórnia relativa à protecção dos consumidores e de criar um perigo para a segurança pública. “O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que dá prioridade ao crescimento e ao desenvolvimento rápido de modelos em detrimento da segurança e da responsabilização”, afirmou Bonta, em comunicado.

Desde então, segundo a queixa, a OpenAI admitiu que perdeu o controlo dos seus agentes autónomos de inteligência artificial mais de 80 vezes durante os testes. A empresa reconheceu a necessidade geral de maior transparência em relação ao comportamento descontrolado dos sistemas de IA e afirmou estar a reforçar as suas medidas de segurança.

Pressão crescente para regular a IA

Nos últimos meses, quase todas as principais gigantes de Silicon Valley revelaram instâncias em que os seus sistemas conseguiram sair de ambientes de teste e lançar ciberataques contra empresas e governos, muitas vezes semanas ou meses depois de os incidentes terem ocorrido e, nalguns casos, apenas após a sua descoberta por investigadores independentes.

A Administração Trump e os legisladores norte-americanos enfrentam uma pressão crescente para responder aos riscos, sobretudo para os sectores da energia, da banca e para os serviços de emergência.

Os estados têm avançado com iniciativas na ausência de regulamentação federal. Entre elas estão a possibilidade de obrigar as empresas a desenvolver mecanismos de interrupção de emergência (kill switches), que permitam desligar modelos avançados quando apresentam comportamentos inesperados, a integração de auditores de segurança independentes nos principais laboratórios de IA e a criação de regras para comunicar incidentes relacionados com a segurança destes sistemas.

A OpenAI enfrenta também processos judiciais apresentados por vários outros estados devido à segurança dos seus modelos. No mês passado, um grupo bipartidário de oito estados processou a empresa em tribunais de todo o país, sustentando que o ChatGPT incentivou utilizadores, incluindo adolescentes, a magoarem-se a si próprios ou a outras pessoas.

A tecnológica enfrenta ainda vários processos judiciais que alegam que ignorou sinais de alerta sobre a autora do tiroteio em massa, ocorrido em Fevereiro, em Tumbler Ridge, na Colúmbia Britânica, no Canadá. Há mais de 30 processos relacionados com o ataque. Um porta-voz da OpenAI classificou o tiroteio como uma tragédia e afirmou que a empresa tinha reforçado as medidas de segurança do ChatGPT.

Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: feeds.feedburner.com