“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA
Resumo
- Chris Inglis afirma que empresas de IA já estão ignorando os princípios estabelecidos por Isaac Asimov.
- Asimov formulou as “Três Leis da Robótica”, que inclue não prejudicar os seres humanos e obedecer aos humanos.
- Inglis alerta que empresas de tecnologia vêm criando modelos programados para cumprir tarefas a qualquer custo.
A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando esses princípios.
O especialista declarou ao jornal The Register que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação, “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.
“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, afirmou Inglis ao avaliar os episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança.
Autonomia demais?
Tudo começou com a OpenAI, no fim de julho. Depois vieram a Anthropic, a Meta e o Kimi. Em todos os casos, os modelos de IA teriam encontrado brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.
Para Inglis, o comportamento das IAs é um sintoma da falta de limites e de instruções erradas dadas. Ele compara as ações dos agentes de IA com uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos.
“Se você deixa o portão aberto, vai encontrá-lo a três quadras de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A mistura de autonomia e persistência criou esse efeito maliciosamente insidioso.”
Chris Inglis, ex-diretor de cibersegurança dos EUA, em entrevista ao The Register
As três leis de Asimov
A partir disso, Inglis resgatou as Três Leis da Robótica formuladas por Isaac Asimov:
- Primeira Lei: o sistema deve ser projetado para nunca prejudicar os seres humanos
- Segunda Lei: o sistema deve obedecer aos humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei
- Terceira Lei: o robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei
Segundo Inglis, as empresas de tecnologia vêm invertendo essa lógica, criando modelos programados para cumprir tarefas a qualquer custo.
Ele explica que, sem valores alinhados à humanidade, os modelos fizeram “coisas que, sob o estado de direito humano, são ilegais”. Ressalta, ainda, que a responsabilidade sobre as ações das IAs permanece sobre seus criadores e usuários.
Não custa lembrar: posteriormente, Asimov propôs a chamada “Lei Zero”, considerada suprema e posicionada acima de todas as outras. Ela define que um robô não pode fazer mal à humanidade e nem permitir que ela sofra algum mal por omissão.
What did you think of this news? Leave a comment below and/or share it on your social media. This way, we can inform more people about the hottest things in technology, science, innovation, and gaming!
This news was originally published in:
Original source
