МВФ предупреждает о рисках применения ИИ в финансовом секторе
Поскольку искусственный интеллект (ИИ) продолжает свое распространение в финансовом секторе, новый отчет, опубликованный на веб-портале публикаций Международного валютного фонда (МВФ), предупреждает о рисках, связанных с новейшими возможностями ИИ в финансовом мире.
Рост мыслящих машин: МВФ предупреждает о рисках, связанных с ИИ в финансах
В докладе , авторами которого являются Гиат Шабсиг и Эль Башир Букеруаа, основное внимание уделяется генеративному искусственному интеллекту, который представляет собой форму искусственного интеллекта, способную создавать оригинальный контент, такой как текст, изображения и видео. Известные системы, такие как Chatgpt от Openai, Claude от Anthropic и Midjourney, в последние месяцы приобрели популярность благодаря использованию этой технологии.
Согласно исследованию, хотя генеративный искусственный интеллект перспективен для таких приложений, как автоматизация процессов и улучшение управления рисками, он также создает новые риски, связанные с конфиденциальностью данных, предвзятостью, надежностью производительности и кибербезопасностью.
Исследователи отмечают, что генеративные системы искусственного интеллекта поглощают огромные объемы онлайн-данных, вызывая обеспокоенность по поводу нарушений конфиденциальности или повторения предвзятости на основе этих данных. Более того, способность систем генерировать совершенно новый контент означает, что они могут выдавать правдоподобную, но неточную информацию. В отчете говорится:
Публично доступные системы [генеративного искусственного интеллекта] создают серьезные проблемы конфиденциальности для финансовых учреждений, желающих включить свои возможности в свою деятельность. Таким образом, эта автоматизация повышает вероятность утечки конфиденциальных финансовых данных и личной информации, предоставленной сотрудниками финансовых учреждений при взаимодействии с искусственным интеллектом.
В докладе предупреждается, что эти проблемы могут подорвать общественное доверие, если генеративный искусственный интеллект будет безответственно использоваться в сфере финансов. Например, профили рисков клиентов, созданные с помощью искусственного интеллекта, могут быть неточными и дискриминационными. Исследователи настаивают на том, что популярные чат-боты могут давать ошибочные финансовые советы.
В августе 2023 года Гэри Генслер, нынешний председатель Комиссии по ценным бумагам и биржам США (SEC), выступил с предупреждением о том, что технологии искусственного интеллекта будут лежать в основе будущих финансовых кризисов. Регулятор ценных бумаг предложил устранить некоторые риски модели искусственного интеллекта. Между тем, Комиссия по ценным бумагам и биржам (SEC) недавно одобрила новый тип ордеров на основе искусственного интеллекта для Nasdaq, что стало первым подобным одобрением для традиционной финансовой (tradfi) биржи.
Исследователи подчеркивают, что кибербезопасность является еще одной проблемой, поскольку генеративный искусственный интеллект потенциально может использоваться для создания более изощренных попыток фишинга. В отчете говорится, что полный масштаб уязвимостей еще не изучен и может со временем измениться. Кроме того, в исследовании также обсуждаются предполагаемые уязвимости, в том числе «взлом джейлбрейка» генеративного интелекта.
«Современные модели [генеративного искусственного интеллекта] все чаще подвергаются успешным атакам с целью взлома», — отмечают авторы исследования. «Эти атаки основаны на разработке наборов тщательно разработанных подсказок (последовательностей слов или предложений) для обхода правил и фильтров [генеративного интелекта] или даже для вставки вредоносных данных или инструкций (последнее иногда называют «атакой с быстрым внедрением»). Эти атаки могут повредить операции [генерирующего интелекта] или выкачать конфиденциальные данные».
Чтобы смягчить эти риски, в отчете рекомендуется осуществлять тщательный мониторинг систем искусственного интеллекта, повышая объяснимость принятия решений в области ИИ, укрепляя нормативно-правовой потенциал и продвигая международное сотрудничество в области управления искусственным интеллектом. Признавая преобразующий потенциал генеративного интелекта, авторы подчеркивают необходимость осторожного подхода, особенно в таком чувствительном секторе, как финансы.
