O alto-comissário da ONU (Organização das Nações Unidas) para os Direitos Humanos, Volker Türk, fez nesta segunda-feira (7) um alerta sobre os riscos provocados pelo avanço acelerado da inteligência artificial e defendeu a criação urgente de mecanismos internacionais de controle da tecnologia.

Durante discurso na 63ª sessão do Conselho de Direitos Humanos, Türk afirmou compartilhar a preocupação de especialistas do próprio setor de tecnologia de que sistemas avançados de IA possam, em determinadas circunstâncias, representar um “risco existencial para a humanidade'.

Segundo ele, episódios envolvendo sistemas capazes de ultrapassar limites estabelecidos durante testes ou de tentar evitar seu desligamento demonstram a necessidade de garantias rigorosas de segurança.

O representante da ONU defendeu uma mobilização internacional para estabelecer barreiras que impeçam sistemas de inteligência artificial de alcançar níveis de autonomia considerados perigosos.

Türk também anunciou que pretende enviar, nos próximos dias, correspondências às principais empresas responsáveis pelo desenvolvimento de inteligência artificial, cobrando a adoção imediata de medidas destinadas a reduzir riscos.

Para o alto-comissário, os países onde estão sediadas empresas de IA e aqueles que participam da cadeia global de produção e fornecimento da tecnologia precisam estabelecer conjuntamente limites que não possam ser ultrapassados.

Entre as medidas defendidas estão mecanismos independentes de verificação e maior cooperação entre empresas do setor na área de segurança.

O alerta ocorre em meio ao aumento das discussões sobre vulnerabilidades relacionadas a sistemas avançados de inteligência artificial. Em julho, a OpenAI informou que seus modelos estiveram envolvidos em um incidente cibernético que atingiu a plataforma para desenvolvedores Hugging Face. Ocorrências envolvendo tecnologias de outras companhias, entre elas Anthropic e Alibaba, também foram relatadas.

Além dos riscos técnicos, Türk criticou a concentração do desenvolvimento da inteligência artificial nas mãos de um pequeno grupo de empresas e executivos.

Segundo ele, enquanto parte do setor tecnológico apresenta a expansão da IA como uma questão de liberdade e inovação, existe também o risco de exploração em larga escala dos dados dos usuários.

O alto-comissário relacionou a discussão sobre inteligência artificial ao cenário internacional marcado por guerras, polarização política, mudanças climáticas e rápidas transformações tecnológicas.

Para Türk, esse conjunto de fatores pode provocar sensação de impotência na população, mas não deve ser tratado como um caminho inevitável.

Ele defendeu que governos e sociedades intervenham enquanto ainda existe possibilidade de estabelecer regras para o desenvolvimento das novas tecnologias e reforçou que a proteção dos direitos humanos precisa acompanhar a evolução da inteligência artificial.