O Brics emitiu na noite de domingo (6) uma declaração conjunta sobre inteligência artificial. O texto defende o desenvolvimento da tecnologia em código aberto e aborda preocupações relacionadas à segurança, sustentabilidade e proteção dos direitos autorais, além dos vieses tecnológicos negativos e do impacto no mercado de trabalho.
O texto final também trata sobre a regulação e o uso ético da IA. O documento vai nortear como os países membros e parceiros do bloco abordam a tecnologia, principalmente em conversas com países mais ricos, que atualmente são pioneiros no desenvolvimento.
Brics defende IA aberta, sustentável e com proteções
A declaração sobre IA é a primeira de três documentos previstos para a Cúpula de Líderes do Brics, no Rio de Janeiro, que começou no domingo e vai até esta segunda-feira (7). Ainda hoje, são esperadas mais duas declarações: sobre saúde e financiamento climático.
No texto, o Brics defende o desenvolvimento de uma inteligência artificial regulamentada, que beneficie todas as nações, com foco no desenvolvimento sustentável e na redução de desigualdades. A declaração ainda destaca a importância de garantir que o Sul Global tenha acesso à tecnologia e seus próprios mecanismos de progresso nesse setor.
Todos os países, independentemente de seu estágio de desenvolvimento econômico, têm o direito de se beneficiar, desenvolver e usar a IA.
Declaração do Brics sobre IA
O texto ainda ressalta a participação colaborativa na cadeia de desenvolvimento e suprimento da tecnologia, com foco para modelos “abertos, e especializados e eficientes para promover o crescimento de ecossistemas de inovação em IA“.
A declaração traz ressalvas relacionadas à proteção. Por exemplo, a proteção de direitos autorais, que evite uma “a extração abusiva de dados e a violação da privacidade, permitindo mecanismos de remuneração justa”. Também estabelece uma regulamentação e concorrência justa, com padrões internacionais que envolvam o setor público, organizações de desenvolvimentos e agências da Organização das Nações Unidas (ONU).
Veja um resumo do que a declaração do Brics defende:
- Todos os países, independentemente do estágio de desenvolvimento econômico, têm direito de se beneficiar, desenvolver e usar a IA. O texto ressalta a importância do Sul Global ter acesso aos mecanismos de desenvolvimento da tecnologia;
- A tecnologia deve ser regulamentada de forma que beneficie todas as nações, com foco em desenvolvimento sustentável e na redução de desigualdades;
- Cada país tem liberdade para desenvolver e aplicar suas próprias regras para IA. No entanto, o texto ressalta a importância de evitar a fragmentação regulatória, em prol de regras justas e transparentes, que incentivem a competitividade e concorrência saudável e sustentável;
- Além disso, o Brics defende o desenvolvimento de padrões, especificações e protocolos técnicos que envolvam o setor público, organizações de desenvolvimento de padrões e agências especializadas da ONU. Isso garante confiança e segurança no desenvolvimento da IA;
- Importância de mitigar riscos da tecnologia, como violação de privacidade, ameaças à segurança e impactos negativos no mercado de trabalho;
- Estabelecer uma governança de dados alinhada com o Brics, para permitir acesso equitativo, acordado, seguro e protegido a dados de qualidade pelos países em desenvolvimento;
- A declaração defende proteção para direitos de propriedade intelectual, com remuneração justa, e responsabilização e transparência por parte das plataformas;
- Desenvolvimento de modelos de IA abertos, especializados e eficientes, para promover a colaboração entre o bloco e evitar barreiras no desenvolvimento da tecnologia;
- IA deve estar disponível para todos, com infraestrutura robusta, conectividade significativa e inclusão digital como pré-requisitos para implantação em qualquer país;
- Inteligência artificial pode levar a um desenvolvimento sustentável colaborativo, com iniciativas de pesquisa e inovação para promover capacidades tecnológicas locais e reduzir a lacuna entre países desenvolvidos e em desenvolvimento;
- Desenvolvimento da tecnologia deve ser sustentável e minimizar seu próprio impacto ambiental, levando em conta aspectos como gases efeito estufa, consumo de energia e água, e lixo eletrônico;
- Declaração reconhece o impacto da IA no mercado de trabalho e destaca a importância de proteger aqueles “diretamente afetados pela transformação digital”;
- Promoção de alfabetização na tecnologia, levando professores e alunos a pensar criticamente sobre a IA;
- IA inclusiva, conforme os padrões de Recomendação da UNESCO sobre a Ética da Inteligência Artificial. Isso inclui o treinamento da tecnologia em vários línguas, por exemplo;
- Texto defende a necessidade de ferramentas que identifiquem erros e vieses algorítmicos negativos;
- Declaração prioriza a supervisão humana, com transparência nas decisões e implantação de forma a reduzir os riscos e aumentar os benefícios sociais;
- Abordagem prudente em relação à inteligência artificial geral. O texto escreve que a AGI “pode exacerbar as desigualdades e criar novas formas de dependência tecnológica, impondo sérios desafios ao desenvolvimento sustentável”;
- No geral, o Brics defende uma abordem colaborativa e multifacetada, para “promover um ambiente digital equitativo para todos”.
Declaração do Brics na íntegra
Veja o texto completo:
A Inteligência Artificial (IA) representa uma oportunidade única para impulsionar o desenvolvimento em direção a um futuro mais equitativo, promovendo a inovação, aumentando a produtividade, avançando práticas sustentáveis e melhorando a vida das pessoas em todo o planeta de maneira concreta.
Para atingir esse objetivo, a governança global da IA deve mitigar riscos potenciais e atender às necessidades de todos os países, especialmente os do Sul Global. Ela deve operar conforme estruturas regulatórias nacionais e a Carta das Nações Unidas, respeitar a soberania, bem como ser representativa, orientada para o desenvolvimento, acessível, inclusiva, dinâmica, responsiva, fundamentada na proteção de dados pessoais, nos direitos e interesses da humanidade, na segurança, na transparência, na sustentabilidade e conducente à superação das crescentes brechas digitais e de dados, dentro de e entre os países. É necessário um esforço global coletivo para estabelecer uma governança de IA que represente nossos valores compartilhados, mitigue riscos, construa confiança e garanta colaboração e acesso internacional amplo e inclusivo, incluindo capacitação para países em desenvolvimento, com as Nações Unidas no centro.
A proliferação de iniciativas de governança e as visões divergentes na coordenação multilateral em nível internacional podem agravar as assimetrias existentes e a lacuna de legitimidade da governança global em questões digitais, erodindo ainda mais o multilateralismo.
De forma a apoiar debate construtivo em direção a uma abordagem mais equilibrada, nós, os líderes do BRICS, concordamos com um conjunto de diretrizes para promover o desenvolvimento, a implantação e o uso responsável de tecnologias de IA para o desenvolvimento sustentável e o crescimento inclusivo. Essas diretrizes, que se referem estritamente ao uso da IA no domínio não militar, devem ser aplicadas por meio das estruturas nacionais ou internacionais aplicáveis, bem como por meio do desenvolvimento de padrões e protocolos interoperáveis, em processos inclusivos, transparentes e baseados em consenso.
SOBRE MULTILATERALISMO, LEGITIMIDADE E SOBERANIA DIGITAL
A Organização das Nações Unidas é Central para a Governança Global da IA. A fragmentação e a duplicação dos esforços globais de governança da IA devem ser evitadas a todo custo. Devemos fortalecer a governança internacional da IA por meio do sistema das Nações Unidas, como estrutura internacional plenamente inclusiva e representativa. Devemos promover a participação e o papel significativos dos mercados emergentes e países em desenvolvimento e do Sul Global nos processos de de decisão no âmbito das iniciativas da ONU, ao mesmo tempo em que se reconhecem os papéis complementares dae multissetoriais, bem como incentivar o intercâmbio de políticas e diálogos sobre IA, com o objetivo de estimular a inovação e promover o crescimento econômico.
A Governança Colaborativa da IA é Complexa, mas possível. Uma rede de atores relevantes, de países desenvolvidos e em desenvolvimento, deve fornecer contribuições com seus conhecimentos, perspectivas e recursos únicos, dentro de suas respectivas funções e responsabilidades. Recordando o papel fundamental e de liderança dos governos na condução da governança da IA, cooperaremos estreitamente com o setor privado, com organizações da sociedade civil, organizações internacionais, comunidades técnicas e acadêmicas e demais atores relevantes, em busca de inclusão e representatividade.
A Soberania Digital e o Direito ao Desenvolvimento são Fundamentais para a Governança Global da IA. Apoiamos firmemente o direito de todos os países de usufruir dos benefícios da economia digital e das tecnologias emergentes, particularmente a Inteligência Artificial, mantendo a defesa dos direitos fundamentais, para estabelecer suas próprias estruturas regulatórias em suas jurisdições, desenvolver capacidades em pesquisa de IA, promover autonomia tecnológica e inovação, garantir a proteção de dados e promover sua própria economia digital, aprimorando a infraestrutura digital, promovendo talentos locais e garantindo a segurança e proteção de seus cidadãos contra riscos da IA.
SOBRE REGULAÇÃO DE MERCADO, GOVERNANÇA DE DADOS E ACESSO À TECNOLOGIA
A Concorrência Justa e a Regulamentação do Mercado são Cruciais para um Futuro Equitativo da IA. A economia digital requer a salvaguarda dos direitos e obrigações dos Estados, empresas e usuários sob as legislações e regulamentações nacionais e os acordos internacionais aplicáveis, para nivelar o campo de atuação em direção à inovação e ao crescimento econômico. Ressaltamos a importância de se evitar fragmentação regulatória e de promover regulamentações de mercado justas e transparentes que incentivem a concorrência, aumentem a competitividade e evitem distorções de qualquer tipo, garantindo assim um ambiente de mercado sustentável e saudável.
A Governança de Dados é Chave para uma Governança Inclusiva da IA. Destacamos que a governança justa, inclusiva e equitativa de dados é fundamental para permitir que os países em desenvolvimento usufruam dos benefícios da economia digital e das tecnologias emergentes, incluindo a Inteligência Artificial. Também reconhecemos a necessidade de estabelecer marcos de governança de dados, em linha com nossos compromissos sob o Entendimento do BRICS sobre Governança da Economia de Dados, para construir confiança e conferir acesso equitativo, acordado, seguro e protegido a dados de qualidade pelos países em desenvolvimento, respeitando as estruturas legais aplicáveis relacionadas ao direito à privacidade e à proteção de dados pessoais, transparência algorítmica, direitos de propriedade intelectual e segurança nacional.
O Acesso à Tecnologia de IA Deve Ser Justo, Equitativo, Habilitador e Inclusivo. Todos os países, independentemente de seu estágio de desenvolvimento econômico, têm o direito de se beneficiar, desenvolver e usar a IA. Destacamos o papel da cooperação internacional para facilitar o acesso a tecnologias baseadas em IA e componentes críticos, para remover barreiras aos recursos financeiros necessários para pesquisa e inovação em IA e para desenvolver conhecimentos, habilidades e estruturas de gerenciamento de risco necessários para alavancar efetivamente as tecnologias de IA, especialmente em países de baixa e média renda.
É Necessária uma Abordagem Equilibrada para Proteger a Propriedade Intelectual e Salvaguardar o Interesse Público. Precisamos de um equilíbrio entre direitos de propriedade, transparência e responsabilidade para salvaguardar o interesse público, a transferência internacional de tecnologia e o cumprimento das legislações nacionais e do direito internacional aplicável. Deve existir uma proteção adequada dos direitos de propriedade intelectual e, em especial, dos direitos autorais contra a utilização da IA não autorizada, a fim de evitar a extração abusiva de dados e a violação da privacidade, permitindo mecanismos de remuneração justa. Salvaguardas devem garantir a responsabilização e a conformidade com a legislação relevante, incluindo transparência sobre parâmetros de entradas e saídas dos modelos de IA.
A IA Deve Ser Aberta e Promover Ecossistemas de Inovação. Incentivamos o desenvolvimento em código aberto e a cooperação científica e tecnológica internacional, de acordo com políticas e prioridades nacionais, por meio de mecanismos de Ciência Aberta e Inovação Aberta, como facilitadores essenciais para a construção de capacidades em pesquisa, desenvolvimento, inovação, proteção de dados, soberania de dados e implantação de IA, bem como para permitir que pesquisadores, desenvolvedores e organizações examinem, auditem e contribuam para sistemas de IA seguros, protegidos, confiáveis e transparentes. Devemos garantir uma participação significativa e promover abordagens colaborativas inclusivas para evitar barreiras ao desenvolvimento global da IA e suas cadeias de suprimentos. Incentivamos o desenvolvimento de modelos fundamentais abertos, especializados e eficientes para promover o crescimento de ecossistemas de inovação em IA.
Padrões Internacionais Devem Levar a uma IA Inclusiva, Representativa e Acessível. O desenvolvimento de padrões, especificações e protocolos técnicos para sistemas de IA deve envolver o setor público, organizações de desenvolvimento de padrões e agências especializadas da ONU, para garantir confiança, interoperabilidade, segurança e confiabilidade das tecnologias de IA em todo o processo de desenvolvimento e em diferentes plataformas e aplicativos. Precisamos evitar que processos de definição de normas sejam utilizados como barreiras à entrada em mercados para as pequenas empresas e as economias em desenvolvimento.
SOBRE EQUIDADE E DESENVOLVIMENTO SUSTENTÁVEL
A IA Deve Estar Disponível para Todos. Infraestrutura robusta, conectividade significativa e inclusão digital são pré-requisitos para a implantação da IA em qualquer país. Serviços governamentais digitais, incluindo aqueles baseados em infraestrutura pública digital, podem atuar como catalisadores para a inclusão na economia digital e o acesso dos cidadãos a seus direitos e benefícios. Assimetrias predominantes em capacidades e infraestrutura devem ser abordadas por medidas domésticas, incluindo bancos multilaterais de desenvolvimento, para promover a adoção local e o desenvolvimento da IA em países em desenvolvimento.
A IA Pode Levar a um Desenvolvimento Sustentável Colaborativo. Buscamos apoiar aplicações de IA, inclusive por meio de código aberto, que abordam desafios críticos de desenvolvimento em setores como saúde, educação, segurança, transporte, energia, agricultura, meio ambiente, recursos hídricos e gestão de resíduos, de acordo com as leis e prioridades nacionais. Os benefícios da IA para o desenvolvimento sustentável devem ser continuamente promovidos. Vamos nos concentrar em iniciativas de pesquisa, desenvolvimento e inovação que promovam e fortaleçam capacidades e aspirações tecnológicas locais e reduzam as lacunas tecnológicas entre países desenvolvidos e em desenvolvimento.
A Sustentabilidade Ambiental é um Pré-Requisito. A IA deve ser usada para mitigar emissões, adaptar às mudanças climáticas, aprimorar os esforços de conservação ambiental, promover a gestão e a otimização sustentável dos recursos, manter o equilíbrio ecológico e contribuir para a evolução dos pilares social e econômico do desenvolvimento sustentável, de acordo com prioridades nacionais. O desenvolvimento e a implantação da IA devem ser sustentáveis e minimizar seu próprio impacto ambiental, abordando aspectos como emissões de gases de efeito estufa, consumo de energia e água, uso de materiais e lixo eletrônico. As janelas de oportunidades abertas pela transição para uma economia de baixa emissão de carbono devem permitir que os países em desenvolvimento liderem por meio de avanços tecnológicos em IA.
A IA Deve Garantir Trabalho Decente e Maior Produtividade. Os sistemas de IA têm o potencial de aumentar a produtividade, estimular a inovação e criar oportunidades de emprego, mas também apresentam desafios, preocupações e riscos sobre as condições de trabalho, intensidade do trabalho, deslocamento de empregos e ameaças ao emprego e à dignidade dos trabalhadores. É imperativo salvaguardar os direitos e o bem-estar de todos os trabalhadores, particularmente daqueles diretamente afetados pela transformação digital, considerando o rápido crescimento das plataformas digitais e o crescente impacto estrutural da IA, inclusive IA generativa, no mercado de trabalho. Também é fundamental garantir que o desenvolvimento, a implantação e o uso da IA levem em consideração a adaptabilidade e a compatibilidade em termos de recursos humanos e utilizem as vantagens tecnológicas, como a IA, para promover o trabalho decente e o emprego pleno e produtivo.
A IA Deve Ser uma Ferramenta para Transformar a Educação e a Aprendizagem Humanas. À medida que os sistemas de IA selecionam informações, personalizam experiências e oferecem conselhos, estamos preocupados que a dependência excessiva desses sistemas possa afetar a cognição, os processos de tomada de decisão e a capacidade de lidar com cenários informacionais complexos. Afirmamos nossa disposição em promover habilidades de alfabetização digital, em particular de professores e alunos, para avaliar criticamente o conteúdo gerado por IA, entender os vieses incorporados nos algoritmos e cultivar um forte senso de autonomia intelectual e habilidades de pensamento crítico.
SOBRE UMA IA ÉTICA, CONFIÁVEL E RESPONSÁVEL PARA O BEM-ESTAR DE TODOS
A IA Deve Ser Inclusiva. Reconhecemos os riscos relacionados à apropriação indevida e à deturpação de conhecimento, patrimônio e valores culturais que são insuficientemente representados em bases de dados e modelos de IA. Reafirmamos a importância de estruturas éticas, transparentes e responsáveis, como a Recomendação da UNESCO sobre a Ética da Inteligência Artificial. Os sistemas de IA devem ser desenvolvidos com respeito rigoroso à diversidade linguística, cultural, racial, geográfica e demográfica de todos os países. Isso inclui cooperação internacional para treinamento em conjuntos de dados de qualidade, abrangentes, multilíngues e inclusivos e para o desenvolvimento de talentos locais em IA.
Vieses Discriminatórios Devem Ser Mitigados. Precisamos de ferramentas robustas para identificar e mitigar erros e vieses algorítmicos negativos e garantir mecanismos de auditoria independentes que salvaguardem justiça, forneçam padrões de avaliação dos riscos advindos de vieses e evitem discriminação e exclusão. Mulheres, minorias, pessoas com deficiência e grupos em situações de vulnerabilidade, como crianças, jovens e idosos, tendem a ser os mais afetados por sistemas de IA treinados com materiais tendenciosos. A colaboração interdisciplinar entre pessoas de diferentes origens é fundamental para estabelecer padrões, melhorar a explicabilidade da operação e dos resultados do modelo e criar estratégias práticas que protejam contra vieses negativos e apoiem o desenvolvimento responsável e equitativo de sistemas de IA.
O Interesse Público Vem em Primeiro Lugar. Em abordagem centrada no ser humano, promoveremos uma relação harmoniosa entre homem e máquina, com autoridade e supervisão máximas dos humanos, onde a IA continua a ser construída como uma ferramenta poderosa para aumentar as capacidades humanas. Priorizaremos a supervisão humana, a transparência na tomada de decisões de IA e mecanismos eficazes de responsabilidade para que as tecnologias de IA possam ser desenvolvidas e implantadas com responsabilidade e segurança, mitigando riscos e maximizando os benefícios sociais.
Foco nos Fatos. A geração de textos, imagens, áudios e conteúdo de vídeo falsos com aparência realista representa ameaças significativas à integridade e autenticidade das informações e pode levar à manipulação da opinião pública, incitação à agitação social e enfraquecimento da confiança nas instituições públicas. Buscaremos uma abordagem multifacetada para promover a integridade da informação, maior centralidade nas estratégias de educação midiática e esforços de comunicação local. Tal abordagem inclui o desenvolvimento de ferramentas para sinalizar rapidamente a desinformação e a informação falsa, a promoção da alfabetização digital e das competências críticas dos indivíduos para avaliar melhor os conteúdos digitais e o estabelecimento de orientações e regulamentos éticos claros, em consonância com a necessidade de proteção da privacidade e dos dados digitais e de desenvolvimento e utilização de tecnologias de IA na divulgação de informações.
Segurança e Confiança Devem Ser Inerentes aos Sistemas de IA. Reconhecemos a necessidade de alcançar um desenvolvimento da IA que seja seguro, ético, confiável e responsável, para o benefício de todos. Os países devem promover coletivamente a inovação e o acesso às tecnologias de IA, ao mesmo tempo em que abordam os riscos imediatos e de longo prazo, em linha com considerações de políticas e de segurança nacionais. Reafirmamos a importância de abordar e proteger coletivamente contra os riscos representados pelo uso malicioso de tecnologias de IA. Os sistemas de IA, bem como outras tecnologias da informação e de comunicação, devem ser cuidadosamente projetados de forma a permitir a detecção e prevenção eficazes de uso indevido, como fraude, ataques a computadores, crimes cibernéticos ou manipulação de dados.
O CAMINHO ADIANTE
É Necessária uma Abordagem Prudente em Relação à AGI. É crucial que a pesquisa sobre a Inteligência Artificial Geral (AGI) seja desenvolvida de forma ética e implantada de forma responsável e confiável, com vistas a ajudar a acelerar o crescimento econômico, especialmente nos países em desenvolvimento, e a enfrentar desafios econômicos e sociais prementes. Se concentrada nas mãos de poucos atores, a AGI pode exacerbar as desigualdades e criar novas formas de dependência tecnológica, impondo sérios desafios ao desenvolvimento sustentável.
Promover um Cenário de IA Justo e Inclusivo. Os países do BRICS buscarão adotar posição comum e proativa para promover um ambiente digital equitativo para todos, identificar perspectivas comuns e intensificar os esforços coletivos globais para operacionalizar o Diálogo Global da ONU sobre Governança de IA e o Painel Científico Internacional Independente sobre IA, garantindo papéis significativos e participação dos países em desenvolvimento. Coordenaremos esforços para promover nossas abordagens compartilhadas de IA, incluindo essas diretrizes, nos fóruns internacionais relevantes. Acolhemos contribuições para aperfeiçoar essas diretrizes, particularmente as vindas de outros países em desenvolvimento, e permaneceremos abertos a revisitá-las.
O que é o Brics e o que tem a ver com inteligência artificial?
O Brics se define como um foro de articulação político-diplomática de países do chamado Sul Global. O objetivo é trabalhar juntos em prol do desenvolvimento.
Atualmente, são 11 países-membros e 10 países-parceiros:
- Países-membros: África do Sul, Arábia Saudita, Brasil, China, Egito, Emirados Árabes Unidos, Etiópia, Indonésia, Índia, Irã e Rússia.
- Países-parceiros: Belarus, Bolívia, Cazaquistão, Cuba, Malásia, Nigéria, Tailândia, Uganda, Uzbequistão e Vietnã.
A diferença entre eles é que apenas os membros têm poder de deliberação (ou seja, votar durante os encontros).
Representantes desses países se reúnem anualmente na cúpula do Brics para discutir temas de interesse comum entre eles. Este ano, alguns dos assuntos de destaque são inteligência artificial, comércio, clima e combate à pobreza.
No sábado, durante a abertura do Fórum Empresarial do Brics, o presidente Luiz Inácio Lula da Silva já havia defendido uma IA colaborativa entre os países. Veja o que ele disse aqui.
O post Brics defende desenvolvimento de IA aberta e sustentável, com proteção de direitos autorais apareceu primeiro em Olhar Digital.
Fonte: Olhar Digital
