Europa fecha acordo histórico para regulamentação da IA
Os dois lados deverão discutir detalhes nos próximos dias, o que poderá mudar a forma da legislação final.
O acordo exige que modelos básicos como ChatGPT e sistemas de IA de uso geral (GPAI, na sigla em inglês) cumpram as obrigações de transparência antes de serem colocados no mercado. Estas obrigações incluem a elaboração de documentação técnica, o cumprimento da legislação da UE em termos de direitos autorais e a divulgação de resumos detalhados sobre o conteúdo utilizado nos treinamentos dos modelos.
Os modelos básicos de alto impacto com risco sistêmico terão de realizar avaliações de versões, analisar e mitigar riscos sistêmicos, realizar testes de adversidades, reportar à Comissão Europeia sobre incidentes graves, garantir a segurança cibernética e reportar sobre eficiência energética.
Os GPAI com risco sistêmico podem se basear em códigos de prática para cumprir o novo regulamento.
Sob o acordo, governos só podem utilizar a vigilância biométrica em tempo real em espaços públicos em casos de vítimas de determinados crimes, na prevenção de ameaças presentes ou previsíveis, como ataques terroristas, e na busca de suspeitos de crimes mais graves.
O acordo proíbe manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais da Internet ou de gravações de câmeras de segurança, criação de um ranking de pontuação social e sistemas de categorização biométrica para inferir crenças políticas, religiosas, filosóficas, orientação sexual e raça.
