Риски генеративного ИИ в биологии требуют новых мер безопасности

Генеративный искусственный интеллект (ИИ) становится всё более важным инструментом в биологии, позволяя создавать новые молекулы. Однако, как указывают исследователи, широкий доступ к этим технологиям может привести к серьёзным рискам, что требует срочных мер по обеспечению биобезопасности. В 2024 году Дэвид Бейкер и Джордж Черч обратили внимание на необходимость внедрения «штрихкодов» в генетические последовательности для отслеживания происхождения новых белков. Тем не менее, недавнее исследование Microsoft выявило, что ИИ-сгенерированные последовательности могут обходить существующие системы безопасности. Ученые призывают к созданию комплексной системы защиты до того, как произойдут непоправимые последствия. Необходимы строгие правила и контроль на всех этапах работы с ИИ в биологии, включая контроль доступа к данным и алгоритмам, чтобы адаптироваться к новым угрозам.