Ведущие разведки предупредили о появлении опасной нейросети. ИИ признал и дал тревожную оценку

ChatGPT объяснил опасность

Разведывательные ведомства стран альянса "Пять глаз" предупредили о скором появлении мощных моделей искусственного интеллекта, способных на разрушительные кибератаки против правительств и бизнеса. По данным разведчиков, появление таких ИИ возможно уже за считанные месяцы.

Разведывательные и кибербезопасные службы альянса "Пять глаз" (в него входят Австралия, США, Великобритания, Новая Зеландия и Канада) в совместном обращении призвали лидеров государств и бизнеса "действовать уже сейчас". Они подчеркнули, что хотя ИИ "со временем поможет улучшить киберзащиту, она одновременно повышает скорость, масштабы и уровень сложности киберугроз".

"Передовые модели искусственного интеллекта превзойдут нынешние ожидания отрасли и коренным образом изменят как наступательные, так и оборонные возможности в киберпространстве… Речь идет не о годах, а о месяцах", – говорится в предупреждении.

Агентства по кибербезопасности объяснили, что прорывы в создании моделей ИИ указывают на понижение барьеров для злоумышленников. Также увеличится быстрота и сложность атак.

"Необходимо комплексное реагирование на уровне как отдельных организаций, так и общества в целом", – призывают разведчики.

Может ли искусственный интеллект навредить человеку или Правительству

"Телеграф" решил обратиться с этим вопросом к ИИ ChatGPT. Он утвердительно ответил на вопрос, может ли он навредить человеку.

"Я могу навредить косвенно, если человек полагается на неправильную или опасную информацию, которую я предоставил. Например, ошибочный совет по здоровью, технике безопасности или финансов может иметь негативные последствия", — пояснила нейросеть.

ChatGPT добавляет, что именно поэтому его "обучают" избегать вредных инструкций и предупреждать о рисках. Он также должен указывать на неуверенность, когда не знает ответа достаточно точно.

"В то же время у меня нет собственных намерений, желаний или возможности физически действовать в мире — я только генерирую текст", — ответил ChatGPT.

ИИ также утвердительно ответил на вопрос, может ли он навредить Правительству. Он добавил, что речь идет о ситуации, когда информация, генерируемая ИИ, может быть использована людьми для дезинформации, пропаганды, мошенничества, кибератак или других действий, наносящих ущерб государственным учреждениям.

Ранее "Телеграф" рассказывал, что в Румынии хакеры-узники сломали базу данных тюрьмы и устроили себе "сладкую жизнь".