Foi divulgado nesta quinta-feira o relatório do Órgão Consultivo de Alto Nível sobre Inteligência Artificial criado pelo secretário-geral da ONU. O grupo, que reúne 38 especialistas de vários países, foi formado para apresentar recomendações para a governança internacional da tecnologia.
O relatório aponta um “deficit” de regulações, normas e instituições globais capazes de gerir o uso da IA, potencializando seus benefícios e minimizando seus riscos.
Cadeia de produção, uso e concentração de poder
Segundo o documento, a necessidade de governança global é “irrefutável”. Um dos argumentos que sustenta esta afirmação é o fato de que as matérias-primas da Inteligência Artificial, desde minerais até os dados de treinamento, são provenientes de todo o mundo.
O relatório também aponta que a tecnologia é implantada para além das fronteiras nacionais, com aplicativos que são usados em vários países. Outro aspecto analisado diz respeito ao desenvolvimento da IA concentrar poder e riqueza em escala global, com “implicações geopolíticas e geoeconômicas”.
Para os especialistas, o desenvolvimento, a implementação e a utilização de tal tecnologia não podem ser deixados “apenas aos caprichos dos mercados”.
Segundo eles, atualmente os mercados de dados para IA são uma espécie de “velho oeste”, que funcionam sob a ideia de “pegue o que puder e esconda sob algorítmos opacos”.
Tecnologia transfronteiriça
O relatório defende uma abordagem “globalmente interligada, ágil e flexível” para governar a IA para a humanidade.
Nessa abordagem, os governos e organizações nacionais e regionais serão cruciais, mas a própria natureza da tecnologia, que é “transfronteiriça em estrutura e aplicação”, requer uma abordagem global, segundo o relatório.
Os autores alertam que “ninguém atualmente entende de forma suficiente todos os recursos da IA e seu funcionamento interno para controlar totalmente seus efeitos ou prever sua evolução”.
Para eles, sistemas de IA “rápidos, opacos e autônomos” podem desafiar os sistemas regulatórios tradicionais, impactar cada vez mais o mundo do trabalho e gerar armas autônomas. Esses elementos levantam sérios “problemas jurídicos, de segurança e questões humanitárias”.
De acordo com o relatório, os regimes de governança da IA também devem ser globais para evitar “corridas armamentistas” e perda de direitos. A regulação global também teria o papel de detectar e responder a incidentes que emanam de decisões ao longo do ciclo de vida da IA, que abrangem múltiplas jurisdições.
Sete recomendações:
Para os autores, essa abordagem colaborativa entre os países seria benéfica para estimular a aprendizagem, encorajar a interoperabilidade e compartilhar os benefícios da IA.
Com base nesta análise, o relatório traz sete recomendações:
1. A criação de um painel científico internacional independente sobre IA, composto por diversos especialistas multidisciplinares na área, servindo a título pessoal e de forma voluntária;
2. O lançamento de um diálogo político intergovernamental e multilateral semestral sobre a governança da IA, à margem das reuniões existentes da ONU;
3. A criação de um intercâmbio de padrões de IA, reunindo representantes de organizações nacionais e internacionais e empresas de tecnologia;
4. A criação de uma rede de desenvolvimento de capacidades em IA para conectar um conjunto de centros colaboradores de desenvolvimento de capacidades afiliados às Nações Unidas, disponibilizando conhecimentos especializados, dados de computação e formação em IA aos principais intervenientes;
5. A criação de um fundo global para a IA que impeça a divisão;
6. A criação de uma estrutura de dados de IA;
7. A criação de um escritório de IA no secretariado da ONU, subordinado ao secretário-geral.