Avatar
Shmuel Leib Melamud

Интересный лонгрид на The Verge – ИИ, который разрабатывает новые лекарства, с помощью ученых превратился в супер-злодея и придумал 40 000 вариантов потенциально смертоносного химического оружия.

В общем, все что потребовалось от исследователей это переключить рубильник, изменив методику поиска, где ИИ должен был не отсеивать токсичные вещества, а наоборот — искать их. Нейронка предложила десятки тысяч новых веществ, некоторые из них были похожи на VX, боевое отравляющее вещество. Учёные слегка прифигели, но опубликовали вот тут свои выводы, побеспокоиться точно стоит.

Во-первых, модель уже создала существующие отравляющие вещества, таким образом проверили, что она «идёт в правильном направлении» и имеет смысл, во-вторых, некоторые из созданных веществ были даже сильнее VX, то есть там хватит буквально мизерного количества для летального исхода. Ну и в-третьих, пугает легкость, многое из того, что использовали учёные, доступно бесплатно, то есть вы можете загрузить набор данных по токсичности веществ откуда угодно.

Ну а если есть друг питонист, то за неделю можно построить нечто похожее на генеративную модель, которая будет управлять токсичными данными, барьер входа сами понимаете какой. Именно поэтому у учёных возникла дилемма — публиковать ли вообще статью, но таких работ больше никто не делал в принципе, было решено просто опередить события, чтобы, возможно, быть на шаг впереди злоумышленников.

Есть и положительные новости — найти потенциальную молекулу это одно дело, а вот синтезировать её уже другое, более сложное, это фактически создание новой молекулы в реальном мире.

https://t.me/denissexy/5456

AI suggested 40,000 new possible chemical weapons in just six hours
It’s apparently not that hard to design poisons using AI.
The VergeWWW.THEVERGE.COM
Dual use of artificial-intelligence-powered drug discovery - Nature Machine…
An international security conference explored how artificial intelligence (AI) technologies for drug discovery could be …
NatureWWW.NATURE.COM
👍😮😍
To react or comment  View in Web Client
See comments under original post