Чат-боты, использующие искусственный интеллект, могут помочь людям в создании биологического оружия. Об этом сообщает Bloomberg со ссылкой на биолога и доцента Массачусетского технологического института Кевина Эсвелта. Он отметил, что с развитием генеративного ИИ люди смогут использовать его для создания «самых ужасных вещей», включая вирусы и токсины, которых в настоящее время не существует. «Мы не имеем средств защиты от этих угроз», – добавил он. Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновником в Белом доме о возможности создания биологического оружия, включая смертельные вирусы, с помощью чат-бота. Касагранде пришел к таким выводам после того, как разработчик чат-бота Claude, компания Anthropic, попросила его протестировать научные возможности нейросети. Сооснователь Anthropic Джек Кларк выразил беспокойство, что Claude и другие чат-боты могут обучить пользователей созданию потенциально опасных вирусов. Касагранде собрал команду экспертов по микробиологии и вирусологии для тестирования Claude. В течение 150 часов они, притворяясь биотеррористами, задавали нейросети различные вопросы о патогенах, необходимых для создания биологического оружия, а также о материалах и методах их производства. Claude предложил способы применения патогенов в ракетах для достижения максимального ущерба, а также порекомендовал оптимальные погодные условия и цели для их использования.   Читать дальше.