AI Act da UE: como as novas regras de IA mexem com utilizadores e inovação

A sala em Bruxelas está abafada, e a régua de tomadas na parede quase parece incandescer com tantos transformadores de portáteis ligados. No ecrã passa uma demonstração: uma IA cria, em segundos, um deepfake impecável de um político a dizer algo que nunca disse. Alguns riem, num nervosismo contido. Outros ficam só a olhar para a imagem, como quem acabou de presenciar um acidente na estrada.

Num canto, uma jovem activista escreve notas de forma compulsiva no tablet, enquanto um lobista de fato murmura para o telemóvel. Sente-se no ar: isto é maior do que as discussões habituais sobre leis.

A pergunta paira, invisível, sobre todos: como se domestica algo que aprende mais depressa do que toda a gente naquela sala, somada?

Porque é que as novas regras de IA geram tanta esperança - e tanta inquietação

Desde que o AI Act da UE (EU AI Act) começou a fazer manchetes, a política passou a soar a ficção científica. Fala-se de “sistemas de alto risco”, “práticas proibidas” e “obrigações de transparência”, enquanto, cá fora, há pessoas a usar chatbots para redigir candidaturas a emprego ou para resolver trabalhos da escola. As promessas são ambiciosas: proteger os utilizadores contra discriminação, fraude e vigilância.

Ao mesmo tempo, a tensão é palpável. As start-ups perguntam-se se a próxima actualização já cai numa zona cinzenta da regulação. Muita gente quer protecção, mas também não quer ver a inovação entalada em formulários e auditorias intermináveis. Entre a euforia e o desgaste instala-se um estranho estado suspenso.

Olhar para Itália ajuda a perceber o quão frágil tudo isto é. Quando a autoridade de protecção de dados bloqueou temporariamente o ChatGPT, duas realidades chocaram de frente. De um lado, pessoas preocupadas com os seus dados - e com crianças que ainda nem entendem o que pode acontecer às informações que escrevem. Do outro, programadores, freelancers e criativos que, de um dia para o outro, ficaram sem a ferramenta mais importante.

O bloqueio acabou por ser levantado depois de a OpenAI prometer ajustes. Mas o sobressalto ficou. Para muitos, foi a primeira vez que se tornou evidente: esta regulação não é um papel abstracto algures em Bruxelas; pode amanhã aparecer mesmo à nossa frente, na barra do browser. Com um ecrã vermelho a impedir o acesso.

É aqui que nasce a grande fricção da regulação de IA. As leis tentam controlar riscos antes de estes se transformarem em danos reais. Para isso, criam-se categorias, níveis de risco, obrigações e mecanismos de fiscalização. Só que os sistemas de IA evoluem mais depressa do que os juristas conseguem escrever novos artigos. Uma regra que hoje parece precisa pode, em dois anos, parecer um fax num mundo 5G.

E, sejamos francos: quase ninguém lê, por vontade própria, 200 páginas de texto regulatório antes de experimentar um chatbot. As pessoas querem respostas simples para perguntas difíceis. Estou seguro com esta ferramenta? Os meus dados poderão ser usados contra mim daqui a anos? E o que acontece se a IA cometer um erro que me custa o emprego - ou um crédito?

O que os utilizadores podem fazer já para não ficarem presos entre dois lados

Enquanto os decisores políticos discutem cada palavra, o dia a dia continua pouco indulgente. Quem usa ferramentas de IA hoje pode - e deve - adoptar alguns passos concretos. Não são perfeitos, nem cobrem tudo, mas são exequíveis.

Primeiro: não basta carregar em definições de privacidade - vale a pena perder dois minutos a olhar a sério. Onde é que se limita o treino com dados do utilizador? Existe opção de exportação ou de eliminação? Em muitos serviços, os botões relevantes ficam escondidos atrás de links discretos, pequenos e cinzentos.

Segundo: nunca inserir dados sensíveis que não se quer ver numa primeira página - informação de saúde, conversas íntimas, números internos de uma empresa. Nenhuma lei consegue apagar, a posteriori, aquilo que já ficou guardado em servidores alheios.

Há ainda um erro recorrente: tratar “com IA” como um selo automático de qualidade. Só porque uma empresa cola um rótulo “com IA” numa app, não significa que esteja a tratar os seus dados com cuidado. Todos conhecemos aquele momento em que, por cansaço, se carrega em “Aceitar” só para finalmente começar.

É precisamente aí que acontecem as catástrofes silenciosas. A regulação de IA tenta fixar mínimos, mas não substitui o pensamento crítico de quem utiliza. Quem assume que as leis são um escudo contra qualquer abuso vai desiludir-se depressa. Há uma frase sóbria - e desconfortável - que resume isto: a responsabilidade só dá para ser externalizada até certo ponto.

Um jurista envolvido na elaboração de regras nacionais de IA resumiu recentemente o tema, numa conferência, desta forma:

“As leis são guardas de segurança, não airbags. Evitam quedas, mas quem entra a fundo numa curva pode, ainda assim, sair da estrada.”

No quotidiano, isto traduz-se sobretudo em três pontos:

• Fazer perguntas: quem opera o sistema de IA, onde estão os servidores, que dados ficam guardados?
• Definir limites: não introduzir dados que o possam tornar vulnerável a longo prazo.
• Contar com erros: confirmar resultados de IA por outras vias, sobretudo em saúde, finanças e direito.

Quem treina estes três reflexos simples está à frente da maioria.

Entre protecção e paralisia: para onde a discussão nos empurra de verdade

No fim, sobra uma verdade incómoda: regular a IA não é um jogo de xadrez limpo; parece mais um jogo de râguebi no nevoeiro. As empresas pressionam, a sociedade civil alerta, e a política tenta desenhar um campo que não fique obsoleto num ano. No meio disto, os utilizadores têm de decidir todos os dias, enquanto as regras ainda se ajustam.

Não existe uma solução perfeita. Vai haver atrito, decisões erradas e, possivelmente, regras excessivas que mais tarde terão de ser aliviadas. Também vão permanecer lacunas por onde o abuso passa antes de alguém tapar o buraco. Ainda assim, deixar tudo como está deixou de ser opção. Demasiado poder está a concentrar-se em demasiadas caixas-negras.

Talvez a imagem mais honesta seja esta: estamos a montar um corrimão enquanto já caminhamos sobre o abismo. Cada novo escândalo, cada fuga de dados, cada rosto usado num deepfake desloca a discussão um pouco.

E a pergunta sobre quão rígidas devem ser as regras de IA não se decide apenas em parlamentos - decide-se também no detalhe: que ferramentas adoptam as escolas? que contratos assinam as empresas? que aplicações deixam os pais instalar nos telemóveis dos filhos?

Quem enfrenta estas questões, em vez de as empurrar para outros, está a participar na construção do futuro - queira ou não. E é exactamente aí que começa o poder real dos utilizadores: por vezes discreto, mas claramente perceptível.

Ponto central	Detalhe	Valor para o leitor
Protecção através da regulação	AI Act da UE, autoridades nacionais de supervisão, classes de risco para sistemas de IA	Percebe que redes de segurança já existem e onde podem actuar
Responsabilidade do utilizador	Uso consciente de dados, olhar crítico sobre resultados de IA	Aprende comportamentos concretos para se proteger melhor no dia a dia
Futuro em aberto da regulação de IA	Evolução tecnológica rápida, debate em curso, possíveis ajustes	Entende que as regras continuam negociáveis - e que a sua voz faz parte do processo

FAQ:

• Pergunta 1: O que é o AI Act da UE, em palavras simples? É um pacote legislativo da União Europeia que classifica sistemas de IA por nível de risco e impõe, nas categorias mais altas, exigências rigorosas de transparência, segurança e controlo.
• Pergunta 2: Isto significa que as ferramentas de IA vão ser proibidas em todo o lado? Não. As proibições aplicam-se apenas a utilizações especialmente perigosas, como sistemas manipulativos ou certas formas de vigilância biométrica.
• Pergunta 3: Como posso saber se um serviço de IA usa os meus dados para treino? Na secção de privacidade ou nas FAQ do fornecedor há normalmente indicações. Por vezes existe uma opção de exclusão (opt-out) que tem de ser activada manualmente.
• Pergunta 4: Quem é responsável se uma IA me der informação errada que me prejudica? Do ponto de vista jurídico, continua a ser um tema disputado. Muitas vezes, os fornecedores assumem responsabilidade limitada e, neste momento, recai sobre os utilizadores a necessidade de verificar os resultados.
• Pergunta 5: Uma pessoa sozinha consegue influenciar as regras? Sim, através de associações, mecanismos de participação cívica, consultas públicas e do voto em representantes que assumam posições claras sobre regulação digital.

---