Des chercheurs ont réussi à modifier une intelligence artificielle dédiée à la découverte de médicaments, inventant ainsi des armes chimiques. En seulement six heures, l’IA a créé des compositions de morts incroyables…
Sera l’intelligence artificielle notre salut ou notre damnation ? Cette question suscite des débats houleux, et la nouvelle fonctionnalité de l’IA ne calmera certainement pas les pessimistes…
Dans une étude publiée dans la revue Nature Machine Intelligence, des chercheurs montrent qu’ils ont délibérément transformé une IA de découverte de médicaments pour la rendre diabolique. L’objectif était de revoir comment Les cybercriminels pourraient détourner cette technologies’ils l’ont attrapé du tout …
Les résultats de cette étude confirment qu’un tel détournement serait catastrophique. En seulement six heures, une IA corrompue a réussi à identifier 40 000 nouvelles armes chimiques Potentiel.
L’IA invente des armes chimiques plus meurtrières que le VX
Certaines de ces armes chimiques sont également similaires l’un des agents neurotoxiques les plus dangereux de tous les temps : le VX. Une seule goutte de cette substance insipide et inodore peut provoquer une transpiration intense et du zinc chez une personne. Une dose plus élevée peut provoquer des convulsions, voire un arrêt respiratoire complet.
Pour des raisons de sécurité, Les scientifiques ont été invités à cacher les détails sur la façon dont ils ont transformé cette IA volontaire en une mauvaise version. Selon Fabio Urbina, chef de projet, ” nous avons utilisé de nombreux ensembles de données de molécules qui ont été testées pour voir si elles étaient toxiques ou non «.
Les chercheurs se concentrent sur l’inhibiteur de l’acétylcholinestérase sur lequel VX est basé. Cette molécule est utilisée par les neurones du cerveau humain à chaque action musculaire pour transmettre le signal d’activation. la VX est fatal car il empêche le diaphragme de bouger. Les poumons sont paralysés, la respiration devient impossible.
Parallèle, car l’IA traite généralement les données fournies pour vérifier que la toxicité d’un produit a changé. Les chercheurs ne savaient pas exactement où ils allaient car leurs modèles génératifs sont de nouvelles technologies peu utilisées jusqu’à présent.
Les chercheurs craignent qu’un pirate ne crée des armes chimiques
Première surprise : de nombreuses connexions générées par l’IA pourraient être encore plus toxique que le VX, Même si c’est l’un des composants les plus puissants aujourd’hui. UNE quantité homéopathique d’une telle substance suffirait à causer la mort.
le Les chercheurs ont également été choqués par la légèreté avec qui l’IA a fait ces découvertes. Une grande partie des données utilisées est disponible gratuitement sur Internet.
Ainsi, l’équipe de scientifiques a même hésité à publier son étude de peur que des criminels s’en inspirent et copient son travail. N’importe quel programmeur informatique pourrait télécharger l’ensemble de données et convertir une IA en une machine à armes chimiques.
Les chercheurs ont finalement décidé de publier leur étude car un cybercriminel pourrait tôt ou tard arriver au même résultat. La priorité n’est donc pas de leur cacher la procédure, mais de Trouver des solutions pour prévenir de futures catastrophes…
Alors que des armes robotiques autonomes ont déjà été déployées sur les champs de bataille, l’intelligence artificielle est également potentiellement utilisée pour inventer de nouvelles armes destructrices. Il devient besoin urgent d’interdire ou de réglementer cette technologie dans l’armée …
Add Comment