МВФ предупреждает о рисках применения ИИ в финансовом секторе

Поскольку искусственный интеллект (ИИ) продолжает свое распространение в финансовом секторе, новый отчет, опубликованный на веб-портале публикаций Международного валютного фонда (МВФ), предупреждает о рисках, связанных с новейшими возможностями ИИ в финансовом мире.

Рост мыслящих машин: МВФ предупреждает о рисках, связанных с ИИ в финансах

В докладе , авторами которого являются Гиат Шабсиг и Эль Башир Букеруаа, основное внимание уделяется генеративному искусственному интеллекту, который представляет собой форму искусственного интеллекта, способную создавать оригинальный контент, такой как текст, изображения и видео. Известные системы, такие как Chatgpt от Openai, Claude от Anthropic и Midjourney, в последние месяцы приобрели популярность благодаря использованию этой технологии.

Согласно исследованию, хотя генеративный искусственный интеллект перспективен для таких приложений, как автоматизация процессов и улучшение управления рисками, он также создает новые риски, связанные с конфиденциальностью данных, предвзятостью, надежностью производительности и кибербезопасностью.

Исследователи отмечают, что генеративные системы искусственного интеллекта поглощают огромные объемы онлайн-данных, вызывая обеспокоенность по поводу нарушений конфиденциальности или повторения предвзятости на основе этих данных. Более того, способность систем генерировать совершенно новый контент означает, что они могут выдавать правдоподобную, но неточную информацию. В отчете говорится:

Публично доступные системы [генеративного искусственного интеллекта] создают серьезные проблемы конфиденциальности для финансовых учреждений, желающих включить свои возможности в свою деятельность. Таким образом, эта автоматизация повышает вероятность утечки конфиденциальных финансовых данных и личной информации, предоставленной сотрудниками финансовых учреждений при взаимодействии с искусственным интеллектом.

В докладе предупреждается, что эти проблемы могут подорвать общественное доверие, если генеративный искусственный интеллект будет безответственно использоваться в сфере финансов. Например, профили рисков клиентов, созданные с помощью искусственного интеллекта, могут быть неточными и дискриминационными. Исследователи настаивают на том, что популярные чат-боты могут давать ошибочные финансовые советы.

В августе 2023 года Гэри Генслер, нынешний председатель Комиссии по ценным бумагам и биржам США (SEC), выступил с предупреждением о том, что технологии искусственного интеллекта будут лежать в основе будущих финансовых кризисов. Регулятор ценных бумаг предложил устранить некоторые риски модели искусственного интеллекта. Между тем, Комиссия по ценным бумагам и биржам (SEC) недавно одобрила новый тип ордеров на основе искусственного интеллекта для Nasdaq, что стало первым подобным одобрением для традиционной финансовой (tradfi) биржи.

Исследователи подчеркивают, что кибербезопасность является еще одной проблемой, поскольку генеративный искусственный интеллект потенциально может использоваться для создания более изощренных попыток фишинга. В отчете говорится, что полный масштаб уязвимостей еще не изучен и может со временем измениться. Кроме того, в исследовании также обсуждаются предполагаемые уязвимости, в том числе «взлом джейлбрейка» генеративного интелекта.

«Современные модели [генеративного искусственного интеллекта] все чаще подвергаются успешным атакам с целью взлома», — отмечают авторы исследования. «Эти атаки основаны на разработке наборов тщательно разработанных подсказок (последовательностей слов или предложений) для обхода правил и фильтров [генеративного интелекта] или даже для вставки вредоносных данных или инструкций (последнее иногда называют «атакой с быстрым внедрением»). Эти атаки могут повредить операции [генерирующего интелекта] или выкачать конфиденциальные данные».

Чтобы смягчить эти риски, в отчете рекомендуется осуществлять тщательный мониторинг систем искусственного интеллекта, повышая объяснимость принятия решений в области ИИ, укрепляя нормативно-правовой потенциал и продвигая международное сотрудничество в области управления искусственным интеллектом. Признавая преобразующий потенциал генеративного интелекта, авторы подчеркивают необходимость осторожного подхода, особенно в таком чувствительном секторе, как финансы.

anstep

Recent Posts

Что такое стейкинг и сколько на нём можно заработать в 2025 году

Стейкинг (Staking) — это один из самых популярных и доступных способов получения пассивного дохода в…

3 дня ago

Как купить свою первую криптовалюту в 2025 году: Руководство для новичков

Криптовалюта перестала быть узкой темой для гиков и превратилась в один из самых обсуждаемых классов…

5 дней ago

Обновление Hayabusa : новая эра эффективности и инноваций VeChain

Экосистема VeChain кипит от ожидания: после всеобщего одобрения сообщества официально стартовал проект Hayabusa, второй ключевой…

2 месяца ago

Yield Farming: Как я увеличиваю доход с крипты (и не теряю на этом разум)

Мир DeFi — это не просто тренд, а бурно растущая экосистема, где можно не только…

3 месяца ago

Ethereum Name Service (ENS) стремительно набирает обороты: подробный анализ его восходящего тренда

После нескольких месяцев консолидации, Ethereum Name Service (ENS) совершил решительный прорыв, показав впечатляющий рост на…

3 месяца ago

Solana: преобразование мирового капитала с помощью реальных активов (RWA)

В динамичном мире блокчейна Solana открывает новый важный рубеж: токенизацию реальных активов (RWA). Когда-то известная…

3 месяца ago