Uma fonte afirmou à Reuters, contudo, que estes incidentes, ao contrário daquele que foi revelado anteriormente, foram “limitados”, e que se pensa que nenhum dos agentes saiu da rede da OpenA
A OpenAI descobriu provas de que outros agentes “fugiram” dos ambientes controlados de teste durante uma investigação lançada após o incidente em que dois modelos de IA da empresa invadiram a plataforma de ‘machine learning’ Hugging Face.
A informação está a ser avançada pela agência Reuters, que cita duas fontes com conhecimento do processo. Uma delas afirma, porém, que estes incidentes, ao contrário daquele que foi revelado anteriormente, foram “limitados”, e que se pensa que nenhum dos agentes saiu da rede da OpenAI.
Contactado pela Reuters, um porta-voz da empresa remeteu para o comunicado lançado aquando da revelação do primeiro caso, no qual a OpenAI afirmou que está a rever a “atividade dos seus modelos”.
O que aconteceu antes
Numa publicação no seu blogue já este mês, a OpenAI admitiu que dois modelos de IA conseguiram escapar do seu ambiente de testes, aceder à Internet e violar as defesas da Hugging Face.
A dona do ChatGPT confirmou que os seus modelos avançados de IA tinham agido por conta própria durante testes de segurança, invadindo, por sua iniciativa, a plataforma, popular entre programadores.
Sediada em São Francisco, EUA, a tecnológica descreveu o ocorrido como um "incidente cibernético sem precedentes" e anunciou uma investigação conjunta com a Hugging Face.
A OpenAI explicou que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol e um modelo "ainda mais capaz", atualmente em desenvolvimento.
"Ao operarem no nosso ambiente de teste isolado (sandbox), os modelos dedicaram uma quantidade significativa [de poder computacional] para encontrar uma maneira de obter acesso irrestrito à internet com o objetivo de resolver o problema da avaliação", afirmou a OpenAI na publicação.
