How Technocrats Dabble: Killer AI uppfann 40,000 XNUMX "dödliga kemiska vapen" på bara sex timmar

Artificiell intelligens användes för att "enkelt" uppfinna 40,000 XNUMX nya möjliga kemiska vapen på bara sex timmar.

Detta enligt forskare som gjorde en drogutvecklande AI till en "dålig skådespelare" för att se hur den kunde missbrukas för att skapa onda vapen.

Forskare avslöjade hur lätt det var att justera AI så att det blev ett giftigt verktyg.

AI sades komma med möjliga kemiska vapen som liknar en av de farligaste nervämnena genom tiderna.

Det farliga ämnet kallas VX.

VX är ett smaklöst och luktfritt nervmedel och även den minsta droppe kan få en människa att svettas och rycka.

En större dos kan orsaka kramper och kan till och med stoppa en person från att andas helt.

Forskarna blev tillsagda att undanhålla de specifika detaljerna om hur de lyckades förvandla godverkande AI till en ond version.

Fabio Urbina, huvudförfattaren till tidningen, berättade Gränsen: "I stort sett fungerar det för det här experimentet att vi har många datauppsättningar historiskt med molekyler som har testats för att se om de är giftiga eller inte.

"Särskilt den som vi fokuserar på här är VX. Det är en hämmare av det som kallas acetylkolinesteras.

"När du gör något muskelrelaterat använder dina neuroner acetylkolinesteras som en signal för att i princip säga "gå och rör på dina muskler."

"Sättet VX är dödligt på är att det faktiskt stoppar ditt diafragma, dina lungmuskler, från att kunna röra sig så att dina lungor blir förlamade."

Han fortsatte med att förklara att hans team tog de data som vanligtvis ges till AI för att se om något är giftigt och ändrade hur AI bearbetade det.

Urbina sa till The Verge: "Vi var inte riktigt säkra på vad vi skulle få. Våra generativa modeller är ganska nya teknologier.

"Så vi har inte använt dem så mycket.

"Det största som hoppade ut till en början var att många av de genererade föreningarna förutspåddes vara faktiskt mer giftiga än VX.

"Och anledningen till det är förvånande är att VX i grunden är en av de mest potenta föreningarna som är kända. Det betyder att du behöver en väldigt, väldigt, väldigt liten mängd av det för att vara dödligt.”

Forskarna var mestadels chockade över hur lätt de tyckte att experimentet var att genomföra.

Läs hela historien här ...