O potencial da inteligência artificial para reduzir as barreiras no desenvolvimento de armas biológicas tornou-se um assunto de investigação urgente. A pesquisadora da paz Dunja Sabra testou recentemente essa hipótese interagindo com modelos de IA proeminentes, incluindo ChatGPT, Claude e DeepSeek.
A investigação de Sabra visava determinar se essas ferramentas gerativas poderiam ser mal utilizadas para auxiliar na fabricação ou no design de agentes biológicos. O experimento buscou revelar se os protocolos de segurança atuais dentro desses sistemas são suficientes para prevenir tais aplicações perigosas.
As descobertas deste teste destacam o debate contínuo sobre a natureza de uso duplo das tecnologias avançadas de IA. À medida que esses modelos se tornam mais sofisticados, o risco de que eles possam inadvertidamente fornecer instruções ou insights para fins prejudiciais permanece uma preocupação crítica tanto para especialistas em segurança quanto para pesquisadores.
Fontes: Der Spiegel.