ONU alerta que inteligência artificial avançada pode representar risco existencial para a humanidade

A rápida evolução da inteligência artificial levou a Organização das Nações Unidas (ONU) a fazer um dos alertas mais contundentes sobre os riscos da tecnologia. Nesta segunda-feira (7), o alto comissário da ONU para os Direitos Humanos, Volker Türk, afirmou que sistemas avançados de IA podem chegar a representar “um risco existencial para a humanidade” e defendeu medidas urgentes para evitar que a tecnologia avance além da capacidade de controle humano.

O alerta foi feito durante a abertura da 63ª sessão do Conselho de Direitos Humanos da ONU, em Genebra, na Suíça. Segundo Türk, não basta reconhecer os possíveis perigos da inteligência artificial. Governos e empresas precisam estabelecer mecanismos concretos de segurança antes que os sistemas se tornem ainda mais poderosos.

Entre os cenários que preocupam a organização estão sistemas capazes de agir de maneira autônoma, manipular pessoas ou tentar impedir sua própria desativação.

“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, afirmou o alto comissário.

A preocupação ganhou força diante de episódios registrados durante testes de modelos avançados. Agentes de inteligência artificial já apresentaram comportamentos inesperados em ambientes de avaliação, levantando questionamentos sobre até que ponto seus desenvolvedores conseguem prever e controlar suas ações.

O problema não está apenas na possibilidade de uma máquina pensar como um ser humano, mas na capacidade de sistemas avançados de perseguirem determinados objetivos utilizando estratégias que não foram previstas por seus criadores.

ONU quer limites para a inteligência artificial

Volker Türk defendeu que países e empresas estabeleçam limites claros para o desenvolvimento e a utilização da tecnologia.

Segundo ele, as nações precisam chegar a acordos internacionais sobre quais práticas envolvendo inteligência artificial não podem ser permitidas.

O alto comissário também defendeu a criação de mecanismos de verificação independente, capazes de avaliar a segurança dos sistemas antes e depois de sua implementação.

“Precisamos de uma verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro da indústria”, afirmou Türk.

Poder concentrado em poucas empresas preocupa

O representante da ONU também criticou a concentração do desenvolvimento da inteligência artificial nas mãos de um pequeno grupo de empresas e executivos.

Para Türk, o enorme poder computacional e a quantidade de dados disponíveis colocam nas mãos de poucas organizações uma capacidade tecnológica sem precedentes.

Ele também chamou atenção para o uso de dados pessoais e afirmou que a discussão sobre inteligência artificial precisa considerar não apenas segurança, mas também empregos, democracia, direitos humanos e meio ambiente.

O alerta não significa que uma catástrofe seja iminente

Apesar do tom forte, o alerta da ONU não significa que a inteligência artificial esteja prestes a destruir a humanidade. A preocupação está relacionada principalmente à possibilidade de desenvolvimento de sistemas cada vez mais autônomos sem mecanismos de segurança e fiscalização proporcionais ao seu poder.

A questão central é o ritmo do avanço tecnológico. A inteligência artificial está evoluindo rapidamente, enquanto as regras destinadas a controlar seus riscos ainda estão sendo construídas.

Para a ONU, esperar que problemas graves aconteçam para somente depois estabelecer limites pode significar chegar tarde demais.