São Paulo, 13 de dezembro de 2019 Fórum Regional de IA na América Latina e Caribe amplia reflexão sobre oportunidades e desafios da Inteligência Artificial /Realizado pela UNESCO e coorganizado pelo CGI.br, NIC.br e Governo Federal, Fórum reuniu autoridades e especialistas renomados na USP / Questões-chave associadas à Inteligência Artificial (AI) como governança, dimensões éticas e proteção de dados pessoais foram discutidas por autoridades e especialistas nacionais e internacionais durante o *Fórum Regional de IA na América Latina e Caribe* <https://unesco-regional-forum-ai.cetic.br/pt/>, realizado nesta quinta (12) e sexta-feira (13) na Universidade de São Paulo (USP). O evento da UNESCO foi coorganizado pelo Comitê Gestor da Internet no Brasil (CGI.br) e pelo Núcleo de Informação e Comunicação do Ponto BR (NIC.br), por meio do seu Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br), e pelo Governo Federal, por meio do Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC) e do Ministério de Relações Exteriores (MRE), com parceria da USP. Durante a cerimônia de abertura, Vahan Agopyan (USP) enalteu a escolha do Fórum de trazer uma abordagem humana para a discussão de IA. De forma complementar, o Ministro Marcos Pontes, do MCTIC, destacou que "a inteligência artificial é uma ferramenta muito poderosa, mas que tem que estar sob a decisão e comando dos seres humanos". Pontes chamou atenção para a importância do debate envolvendo diferentes países e culturas com o objetivo de encontrar soluções aos problemas comuns. "É fundamental compreender o alcance da IA, possíveis mudanças no comportamento humano, a lógica dos algoritmos, aprofundar pesquisas e promover a construção de uma estratégia nacional de IA", pontuou Maximiliano Martinhão (CGI.br), que saudou a iniciativa da Unesco de realizar encontros que facilitam a definição dos papeis dos países diante dos desafios e oportunidades da IA. Em concordância, Moez Chakchouk (UNESCO) pontuou que a ética em IA deve ser debatida em nível internacional, incluindo diversos /stakeholders/ de paises desenvolvidos e em desenvolvimento. Ainda durante a cerimônia de abertura, houve a assinatura de aditivo do convênio entre o MCTIC, FAPESP e CGI.br para a implementação de laboratórios de IA no país. "A Internet no Brasil nasceu na FAPESP, que foi o berçário do NIC.br. Esse é o papel da FAPESP: promover iniciativas que crescem além dela. Também estou feliz pela assinatura desse acordo para a criação de centros de pesquisas na fronteira do conhecimento em IA e segurança cibernética", afirmou Marco Antonio Zago (FAPESP). O projeto consiste na implementação de oito centros, metade deles em São Paulo e outra metade em outras cidades brasileiras, que deverão concentrar pesquisadores das mais diferentes áreas. *IA e políticas públicas* Em painel interamericano sobre o desenvolvimento de políticas públicas para IA, o ministro Marcos Pontes chamou atenção para a consulta pública lançada pelo MCTIC para participações da sociedade civil na Estratégia Brasileira de Inteligência Artificial. Pontes listou políticas implementadas pelo Governo Federal para formar a base de introdução de novas tecnologias no país, como o decreto para Internet das Coisas (IoT na sigla em inglês) que possui quatro câmaras de discussões: indústria, saúde, cidades inteligentes e agricultura. O painel contou com a participação de Jennifer May, embaixadora do Canadá no Brasil, que comentou a política canadense de inteligência artificial. O Canadá foi o primeiro país a desenvolver uma estratégia na área. "Apoio à inovação, à comercialização, atenção às implicações, tudo isso com base na colaboração. Esses são os principais pontos que compõem a estratégia canadense para IA, além do desenvolvimento de centros de pesquisa de ponta", afirmou. Políticas chilenas para conectar empresas, universidades e governo foram abordadas por José Antonio Guridi (Ministério da Ciência, Tecnologia, Conhecimento e Inovação do Chile), enquanto Diego Fernández Montero (Chief Data Officer do Governo da Costa Rica) enfatizou a importância de se criar uma cultura de tomada de decisões e formulação de políticas públicas baseadas em dados. Para entender as estratégias, /frameworks/ e princípios já desenvolvidos no nível regional e internacional em relação à inteligência artificial centrada em valores, entre outras questões, um dos paineis do Fórum tratou especificamente da cooperação internacional. Representantes da OCDE, da ITU, CEPAL, IEEE e painel de Alto-Nível da ONU sobre Cooperação Digital apresentaram iniciativas e /guidelines/ formulados por esses organismos internacionais. Valeria Jordan (CEPAL) destacou a necessidade de considerar os avanços de países mais desenvolvidos nessa tecnologia, levando em conta também as particularidades de cada países. "Os cidadãos são uma parte importante nessa equação. É fundamental garantir que eles tenham um nível mínimo de conhecimento sobre a inteligência artificial para que possam se envolver com as discussões e pleitear direitos", defendeu Sacha Alanoca (AI Civic Forum). Para Nicolas Miailhe (The Future Society), as recomendações da OCDE, UNESCO e IEEE devem ser celebradas. "Elas convergem em cinco princípios: transparência, justiça e equidade, não-maleficência, responsabilidade, privacidade. Porém essas recomendações possuem seus limites. Falta clareza em terminologias, falta diversidade geográfica e engajamento civil", alertou. Nicolas chamou atenção ainda para os desafios éticos de IA, que envolvem não só privacidade, mas também discriminação, assimetria de informação, automação do trabalho e limitação da liberdade de expressão e escolha. A automação do trabalho também foi tratada por Cristina Gómez (Centro de Excelência em IA de Medellin, Colombia), que discorreu sobre a incorpoção de robôs trabalhadores aos processos empresariais e a interação entre robôs e humanos. "Quando desenvolvermos sistemas de inteligência artificial que tenham capacidade de gerar mais empatia com outros, conseguiremos gerar melhor coordenação e cooperação entre máquinas e humanos", opinou. *IA e transparência* Os impactos de tecnologias como IA, IoT e /big data/ na liberdade de expressão, acesso à informação e conhecimento também foram discutidos durante o Fórum. Isabela Ferrari (Justiça Federal) chamou atenção para os algoritmos não programados, que usam /machine learning/ e buscam descobrir os resultados esperados por meio de uma série de correlações. "Isso gera para o ser humano uma enorme dificuldade de articular a lógica tomada por esse tipo de /software/. O algoritmo que emprega /machine learning/ vai trazer a regra de aprendizagem do algoritmo, não adianta abrir o código. Esse é um grande desafio, a /accountability/ precisa acompanhar os sistemas desde o momento que eles nascem", afirmou. De forma complementar, Sara Rendtorff-Smith (MIT) trouxe exemplos de problemas decorrentes do uso de IA, principalmente no que trata de discriminação, como no caso de um sistema usado para detectar fraudes no seguro desemprego no estado do Michigan (EUA), em que 85% dos casos identificados como fraudulentos estavam equivocados. "Os humanos possuem preconceitos. A inteligência artificial tinha e tem a promessa de corrigir essa questão, mas isso não está acontecendo. A preocupação que temos é que a IA não passe a exarcebá-los", alertou. José Luiz Ribeiro (RNP e CGI.br) enfatizou a importância de combater esses problemas. "Talvez tenhamos que desenvolver, em analogia com anticorpos, os antialgoritmos, que vão acompanhar, fiscalizar e atacar os desvios da inteligência artificial no momento em que nossa capacidade ainda é muito lenta. É necessário discutir, criar formas de disciplinar as decisões e sinais indevidos dos modelos de IA que estamos criando". Durante o evento, Demi Getschko (NIC.br e CGI.br) destacou que a discussão sobre regulação de AI deve ser principiológica. Ainda na avaliação de Getschko, decisões devem ser mantidas nas mãos dos humanos. "Na hora que você repassa a decisão ao sistema, você mudou o patamar. O sistema jurídico automatizado, por exemplo, ajuda no acesso aos dados, porém no momento em que uma decisão judicial passa a ser do sistema, estamos pulando para algo perigoso. O sistema pode auxiliar desde que a decisão e responsabilização seja humana", enfatizou. Como educar crianças para entender IA e serem os futuros desenvolvedores dessa tecnologia? Jasmina Byrne (UNICEF) defendeu que as crianças sejam consultadas e incluídas no processo de discussão de políticas de IA. A especialista também chamou atenção para o mito de que todas as crianças são nativos digitais. "É fundamental investir em alfabetização digital, preparar as crianças para que entendam o que é feito com coleta de dados. Crianças, pais e responsáveis não estão cientes de como esses dados são usados para traçar seus perfis de consumo e promover propagandas direcionadas. Políticas de IA devem levar essa questão em conta", abordou. Sistemas educativos baseados em IA, o aprendizado e competências necessárias, bem como o futuro da pesquisa científica e da gestão ambiental foram alguns dos temas discutidos em profundidade durante o *Fórum Regional de IA na América Latina e Caribe <https://unesco-regional-forum-ai.cetic.br/pt/>*, que abordou ainda o potencial da IA em relação aos Objetivos de Desenvolvimento Sustentável (ODS). O evento foi transmitido ao vivo pela Internet e está disponível na íntegra no canal do NIC.br no YouTube, assista: *https://www.youtube.com/playlist?list=PLQq8-9yVHyOa8vVdk3MpnVk8AJDyhD7Ia*. *Sobre o Cetic.br *O Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação, do NIC.br, é responsável pela produção de indicadores e estatísticas sobre a disponibilidade e o uso da Internet no Brasil, divulgando análises e informações periódicas sobre o desenvolvimento da rede no País. O Cetic.br é um Centro Regional de Estudos, sob os auspícios da UNESCO. Mais informações em *http://www.cetic.br/**.* *Sobre o Núcleo de Informação e Coordenação do Ponto BR – NIC.br *O Núcleo de Informação e Coordenação do Ponto BR — NIC.br (*http://www.nic.br/*) é uma entidade civil, de direito privado e sem fins de lucro, que além de implementar as decisões e projetos do Comitê Gestor da Internet no Brasil, tem entre suas atribuições: coordenar o registro de nomes de domínio — Registro.br (*http://www.registro.br/*), estudar, responder e tratar incidentes de segurança no Brasil — CERT.br (*http://www.cert.br/*), estudar e pesquisar tecnologias de redes e operações — Ceptro.br (*http://www.ceptro.br/*), produzir indicadores sobre as tecnologias da informação e da comunicação — Cetic.br (*http://www.cetic.br/*), implementar e operar os Pontos de Troca de Tráfego — IX.br (*http://ix.br/*), viabilizar a participação da comunidade brasileira no desenvolvimento global da Web e subsidiar a formulação de políticas públicas — Ceweb.br (*http://www.ceweb.br* <http://www.ceweb.br/>), e abrigar o escritório do W3C no Brasil (*http://www.w3c.br/*).** *Sobre o Comitê Gestor da Internet no Brasil – CGI.br* O Comitê Gestor da Internet no Brasil, responsável por estabelecer diretrizes estratégicas relacionadas ao uso e desenvolvimento da Internet no Brasil, coordena e integra todas as iniciativas de serviços Internet no País, promovendo a qualidade técnica, a inovação e a disseminação dos serviços ofertados. Com base nos princípios do multissetorialismo e transparência, o CGI.br representa um modelo de governança da Internet democrático, elogiado internacionalmente, em que todos os setores da sociedade são partícipes de forma equânime de suas decisões. Uma de suas formulações são os 10 Princípios para a Governança e Uso da Internet (*http://www.cgi.br/principios*). Mais informações em *http://www.cgi.br/*. *Flickr: **http://www.flickr.com/NICbr/ Twitter: **http://www.twitter.com/comuNICbr/ YouTube: **http://www.youtube.com/nicbrvideos Facebook: **www.facebook.com/nic.br <http://www.facebook.com/nic.br> Telegram: **www.telegram.me/nicbr* <http://www.telegram.me/nicbr> *LinkedIn:* ** <https://www.linkedin.com/company/nic-br/>*https://www.linkedin.com/company/nic-br/ **Instagram: **https://www.instagram.com/nicbr* Os releases e comunicados do NIC.br e CGI.br são enviados aos inscritos na lista ***anuncios@nic.br ***sempre que publicados em nossos sítios. Caso não queira mais recebê-los, siga as instruções disponíveis***aqui <https://mail.nic.br/mailman/listinfo/anuncios>***. * <https://www.instagram.com/nicbr/>*