A equipa irá acompanhar igualmente riscos como ameaças à cibersegurança europeia e à atuação da IA fora do controlo humano
A União Europeia (UE) criou uma equipa, em conjunto com autoridades nacionais, para controlar as empresas de IA, no âmbito do Regulamento Europeu da Inteligência Artificial (‘AI Act’), que entra em vigor no domingo.
A partir de 2 de agosto de 2026, o Departamento Europeu para a IA (‘AI Office’), em conjunto com as autoridades nacionais, começa a aplicar a Lei da Inteligência Artificial (IA), na mesma data em que começam a ser aplicadas novas regras de transparência, que exigem que determinados sistemas de IA informem os utilizadores quando estão a interagir com IA e quando o conteúdo foi gerado ou alterado pela mesma.
Com a criação do AI Office, a Comissão Europeia quer monitorizar a utilização de modelos de IA em relação a violações do seu novo regulamento, tais como a publicação de material sexualmente explícito, fotos e vídeos falsos, e ameaças cibernéticas a infraestruturas públicas e o departamento poderá, a partir de domingo, fazer cumprir as regras para os fornecedores de modelos de IA para fins gerais (GPIA, na sigla inglesa).
Estes modelos GPIA podem desempenhar muitas tarefas diferentes e ser utilizados numa ampla gama de ferramentas e serviços, incluindo agentes de IA.
As regras cobrem também os modelos mais avançados que possam representar riscos sistémicos, devendo os seus fornecedores cumprir obrigações adicionais para responder a riscos de danos em grande escala, como os associados a incidentes químicos, biológicos, radiológicos e nucleares, perda de controlo, ciberataques, manipulação prejudicial e ameaças aos direitos fundamentais.
Segundo um comunicado do executivo comunitário, a equipa irá acompanhar igualmente riscos que têm vindo a atrair a atenção pública recentemente, tais como ameaças à cibersegurança europeia e à atuação da IA fora do controlo humano.
Também a partir de domingo, as empresas de IA passam a ser obrigadas a deixar claro para os consumidores, através de rótulos ou marcas de água digitais, que os ‘chatbots’ ou as imagens foram gerados por IA.
Ao abrigo das novas regras, os ‘deepfakes’ (imagens, vídeos ou áudio editados ou gerados através de IA) terão de ser identificados e os ‘chatbots de apoio ao cliente, os assistentes virtuais ou qualquer outra interface conversacional baseada nesta tecnologia terão de informar os utilizadores que são um produto gerado por IA e não pessoas reais.
A entrada em vigor das regras relativas aos sistemas de IA de alto risco foi adiada para 02 de dezembro de 2027 e a aplicação das regras relativas aos sistemas de IA de alto risco integrados em produtos regulamentados até 02 de agosto de 2028.
