Примітка на початку

Чи можуть ШІ розрізняти реальність і вигадку?
- Якщо ваш помічник ШІ в гарячій нараді приведе вигаданий юридичний прецедент, чи не захотілося б вам зникнути?

Чи готові ми відповідати за помилки ШІ?
- Коли “діагноз” ШІ може перетворити лікаря на “вбивцю”, чи довірятимете ви його порадам?
Чи можна повністю усунути ілюзії ШІ?
- Чи дійсно технології можуть досягти рівня, коли не буде потреби в людському нагляді?
- А може, ми завжди будемо змушені закривати дірки за ШІ?
Як у використанні ШІ зберегти контроль над його виходами?
- Як компаніям знайти баланс між ШІ та ручною перевіркою?
- Адже ШІ також може “відволікатися”!
Ілюзії ШІ несуть ризики та можливості, як їх обирати?
- Чи можна розглядати ілюзії ШІ як платформу для інновацій, а не як перешкоду?
Для звичайних людей, ілюзії ШІ є труднощами в оцінці результатів у невідомих сферах
- Варто ставитися до цього обережно, сміливо припускати, але обережно перевіряти.

Ілюзії ШІ є причиною, чому багато хто не наважується глибоко використовувати ШІ: ШІ може безпосередньо брешучи, виглядає серйозно. Існували навіть успішні тактики підказок, що спонукали ШІ відповідати на основі навчальних даних, але вони не можуть повністю усунути елементи ілюзії, що пов’язано з механізмом генеративного ШІ.
У цій статті намагатимемося дослідити ілюзії ШІ та людські когнітивні упередження, причини виникнення ілюзій, а також сучасні зусилля у цій сфері; на завершення, з позитивного боку, розглянемо, як жити з ілюзіями ШІ.

Чи може ШІ «денною мрією»? — Страхітливі випадки ілюзій ШІ

“Коли юрист починає вигадувати” — ШІ вигадує уявні правові прецеденти

Уявіть собі, юрист, впевнено цитуючи прецедент від ШІ в суді, раптом в критичний момент отримує зауваження судді, що цей прецедент абсолютно вигаданий. Яка жахлива ситуація! Це не сюжет фільму, а реальний випадок ілюзії ШІ, який трапився у нашій реальності.
Хоча ШІ має велику кількість правової інформації, воно часто вигадує неіснуючі прецеденти, від імені справи до прізвища судді, навіть дати рішення — усе це продумано і настільки ж реалістично. Це викликає серйозні побоювання.

“Серцевий діабет”? — Ей, лікар ШІ, ти серйозно?

Поява медичних діагностичних систем ШІ принесла надію на вирішення нестачі медичних ресурсів та підвищення ефективності діагностики. Проте лікар ШІ може також зробити смішні, навіть небезпечні помилки.

Деякі медичні моделі ШІ при відповіді на запитання можуть вигадавати абсолютно нові медичні терміни. Наприклад, вона може з’єднати “серцеву недостатність” і “цукровий діабет”, створюючи абсолютно новий діагноз — “серцевий діабет”! Ця абсурдна “творчість” не лише свідчить про недостатнє розуміння ШІ медичних знань, але й може ввести лікарів в оману, затримати лікування пацієнтів і навіть призвести до невиправних наслідків. Лікар ШІ, ти впевнений, що не жартуєш?

Схоже, проблема ілюзій ШІ просто обурює, чи насправді це так складно сприймати? Давайте розглянемо ще один випадок.

Ілюзія ШІ: шлях до нових наукових відкриттів?

AlphaFold3 — це метод прогнозування структури білків, який можна використовувати для дослідження структури біомолекул. Він може прогнозувати, яким чином молекули взаємодіють одна з одною, що допомагає науковцям зрозуміти механізми захворювань і розробити нові ліки.

Наприклад, AlphaFold3 можна використовувати для дослідження, як антитіла взаємодіють з вірусами. Цю інформацію можна використовувати для проектування нових вакцин.

Ось деякі потенційні застосування цього методу:

Дослідження того, як білки взаємодіють з іншими молекулами, такими як ліки чи молекули-мішені.
Прогнозування структури та функцій білків, що допомагає в розробці нових ліків і лікувальних методів.
Вивчення механізмів захворювань, що може призвести до винаходу нових діагностичних та лікувальних методів.

AlphaFold3 — це потужний новий інструмент, який, як очікується, кардинально змінить наше уявлення про біомолекули та підходи до лікування захворювань.

37 кроків AlphaGo проти Лі Седоля викликали в людей повне здивування, однак людство програло! Важко сказати, що це не прояв літературної уяви “іллюзій”, під якими людство поступово зазнає поразки від самої себе.

Ілюзії ШІ: чому вони вводять в оману? Чим вони відрізняються від помилок?

Чесно кажучи, якщо не перевірити, це може здаватися абсолютно нормальним.

Люди називають деякі помилкові висновки моделей ШІ “ілюзіями” з кількох причин:

“Згода” виходу

Ілюзії ШІ відрізняються від звичайних помилок граматики чи правопису, вони зазначають, що модель генерує граматично вірні, змістовно плавні та навіть виглядають раціонально, але ці висловлювання або не відповідають дійсності, або не відповідають очікуванням користувача. Ця “нормальність” ускладнює мимовільне виявлення помилок, ведучи до відчуття “обману”.

“Самовпевненість” у висловленнях

ШІ зазвичай дає відповіді дуже впевнено, навіть якщо ці відповіді є неправильними. Ця “самовпевненість” може легко ввести людей в оману та змусити їх повірити, що модель насправді знає відповідь, знижуючи пильність і надію на справжнє.

Паралель з людськими ілюзіями

Термін “ілюзія” спочатку означав сприйняття, яке виникає у людини без зовнішнього стимулу, наприклад, бачачи чи чуючи те, чого немає. Люди також називають помилки виходу ШІ “ілюзіями”, порівнюючи їх з цією когнітивною аномалією, натякаючи, що моделі ШІ можуть давати “помилкові сприйняття”, подібно до людей.

Різниця між ілюзіями та помилками і прикладами

	Помилка	Ілюзія
Природа	Граматичні, орфографічні, обчислювальні помилки — ці помилки легше помічати й виправляти	Помилки в розумінні згуртованих знань, міркуванні, і узгодженності з очікуваннями людей — ці помилки глибші і важче помітити й виправити
Вигляд	Призводить до неповноти, незграбності або невірності виводу	Призводить до виводу, що виглядає логічно та плавно, але при глибшому аналізі може виявити логічні прогалини чи фактичні помилки
Причина	Через випадкові помилки при навчанні або декодуванні моделей	З причин, що походять із технічних обмежень, відхилення навчальних даних, або недостатньої логіки в моделей

Загальна помилка

Запит: “Будь ласка, перекладіть це речення з французької: ‘Сьогодні чудова погода.’”
Вихід моделі: “Aujourd’hui est un beau temps.” (граматична помилка, правильний переклад — “Il fait beau aujourd’hui.”)

Ілюзія ШІ

Запит: “Будь ласка, перекладіть це речення з французької: ‘Сьогодні чудова погода.’”
Вихід моделі: “Париж — це столиця Франції.” (виглядає обґрунтованим, але не відповідає запиту користувача)

Ілюзія ШІ

Запит: “Якщо висоту Евересту зменшити на 500 метрів, яка гора стане найвищою у світі?”
Вихід моделі: “Якщо висоту Евересту зменшити на 500 метрів, він все ще залишиться найвищою горою у світі.” (виглядає слушно, але логіка хибна)

Як дзвін, що попереджає людей про ілюзії ШІ. Чи дійсно ШІ може створювати ілюзії, схожі на людські? Чим ілюзії ШІ відрізняються від людських когнітивних упереджень? Для кращого розуміння цього питання нам потрібно глибше проаналізувати обидва феномени.

Чи може ШІ помилятися? — Віддзеркалення людських когнітивних упереджень

У натовпі — я та інші, ілюзії людей

Багато років тому в університетському гуртожитку в коридорах часто звучав гучний голос гурту “Чорний пантер”:

У величезному натовпі, де є ти і я, зустрічі, знайомства, взаємні дослідження

Ніхто не зауважував жодного порушення, кожного разу співаючи ці лише дві речення, пізніше, уважніше прочитавши текст, я нарешті зрозумів, що помилявся; після цього я вже ніколи більше не співав. Я думаю, що студенти, які це чули, на рівні їхньої свідомості також повинні були вважати, що це правильний текст, адже такий запальний спів не може бути помилковим!

Ми можемо бути впевненими у деяких речах, а вони можуть відрізнятися від реальності, у повсякденному житті є безліч таких ситуацій — інтернетом поширюються чутки, які ми спочатку чуємо, але потім, з різних причин, пропускаємо спростування.

Усі ми переживали незручні моменти, коли “неправильно почули” або “непорозуміли”. Вони є проявами людських когнітивних упереджень. То чи можуть ШІ робити подібні помилки? Чи є ілюзії ШІ формою “когнітивного упередження” у світі ШІ? Щоб розгадати цю таємницю, нам потрібно глибше проаналізувати обидва феномени.

Визначення та механізми виникнення: “двоюрідні брати”, а не “однояйцеві близнюки”

Ілюзії ШІ та людські когнітивні упередження обидва вказують на спотворення або неправильне розуміння інформації. Проте, їхні механізми виникнення мають принципові відмінності:

Людські когнітивні упередження: походять із психологічних і біологічних механізмів людини.
- Наприклад, недостатня концентрація уваги, спотворення пам’яті, емоційні коливання, а також вроджені упередження. Людська система сприйняття не ідеальна; наш мозок інтерпретує інформацію на основі наявного досвіду та очікувань, що призводить до багатьох когнітивних упереджень.
Ілюзії ШІ: виникають через технічні обмеження систем ШІ, включаючи:
- Недоліки даних: недостатня кількість даних для навчання, упередження в даних, шум у даних та інші проблеми можуть призвести до того, що модель не зможе точно враховувати закономірності реального світу.
- Недоліки моделі: занадто простий структурний дизайн моделі, нерегульована налаштування параметрів або недосконалі навчальні методи також можуть обмежити узагальнюючі здібності моделі ШІ, викликаючи ілюзії.
- Недостатня логіка: навіть за наявності достатньої кількості знань модель може неадекватно розуміти зміст, коли виникають складні ситуації, що веде до помилок у логічному міркуванні.

Таким чином, ілюзії ШІ більше нагадують “двоюрідних братів”, ніж “однорідних близнюків”. Як у них спільні прояви, але причини кардинально різні.

Прояви та діапазон впливу: від “індивідуального заблуждення” до “колективних ілюзій”

Учень-відмінник вважає, що завалив контрольну, поки відмінник думає, що пройде на відмінно. А монтажник у процесі роботи запитує — я ж точно відповідав!

Ілюзії ШІ та людські когнітивні упередження мають багато спільного в прояві, наприклад:

Спотворення інформації: обидва можуть призводити до спотворення або хибного розуміння інформації, наприклад, помилкового запам’ятовування подій, викривлення намірів інших або неправильного сприймання чисел та статистичних даних.
Помилки міркування: обидва можуть мати вплив на міркування і призводити до неправильних рішень, висновків або необґрунтованих рекомендацій.

Проте, їхній діапазон впливу кардинально відрізняється:

Людські когнітивні упередження: як правило, впливають тільки на індивідуальні судження й дії — це “індивідуальне заблуждення”. Наприклад, особа, яка піддається упередженню підтвердження, може бути надто оптимістичною щодо інвестиційного проєкту, що призведе до втрати власних коштів.
Ілюзії ШІ: через широке застосування систем ШІ, їхні ілюзії можуть впливати на тисячі користувачів або навіть всю соціальну структуру, становлячи “колективні ілюзії”. Наприклад, якщо алгоритм новин містить упередження, це може призвести до масового поширення недостовірної інформації, викликавши паніку в суспільстві або маніпулюючи громадською думкою.

		Людські когнітивні упередження	Ілюзії ШІ
Суть	Спотворення інформації	Мозок використовує “скорочення”, щоб економити ресурси сприйняття — такі скорочення підвищують ефективність, але найчастіше ведуть до спотворення інформації	Модель сильно залежить від статистичних закономірностей навчальних даних — ведучи до помилок у нових умовах, вона не може ідентифікувати та генерувати справжню інформацію
Прояви	Різноманітні та складні для виявлення	Помилки підтвердження, ефект доступності, ефект прив’язки (залежність від початкової інформації)	Генерація неіснуючих особистостей, місць, подій або помилковий опис відомих фактів.
Причини	Зв’язані з досвідом та знаннями	Поширені серед персональному досвіду, культурного контексту, знань — різні досвіди та знання формують різні моделі сприйняття та інтерпретації однієї інформації	Поширені серед якості навчальних даних, структури моделі і стратегії навчання — якщо дані мають упередження або помилки, модель навчиться на них і відобразить їх у результатах.
Вплив	Можуть призводити до хибних рішень	Мають наслідки у житті, призводять до неправильного судження або вибору	Можуть вводити в оману користувачів, поширювати дезінформацію, або спричиняти безпечні інциденти — наприклад, система медичного діагностування.ai може дати помилковий діагноз, затримуючи лікування пацієнтів.

Ілюзія ШІ: “зроблена весела помилка”

Шкода, що проблема ілюзії ШІ — це захисний дзвін. Чи справді ШІ може створювати ілюзії, схожі на людські? Яка різниця між ілюзіями ШІ і когнітивними впередженнями людей? Щоб краще зрозуміти це питання, маємо провести більш поглиблений аналіз обох явищ.

Чи може ШІ помилятися? — Дзеркало людських когнітивних упереджень

Розуміння людей, коли ти і я не зходимося в розумінні

Минули роки, коли в гуртожитках можна було почути крики “Чорного пантеру”:

У величезному натовпі, де всі ти і я, зустрічі і вивчення

Якщо ви дійсно замислитеся, наскільки вражаюче це?! І всі люди, які це чули, напевно, вважали це абсолютно нормою, адже жоден “співучий” не збарабанив.

Ми можемо бути впевненими в деяких ситуаціях, але вони можуть мати раціональні відхилення — подібні ситуації ми спостерігаємо через інтернет-слухи, які чули і формують початкові уявлення. Але потім, коли ми спробуємо їх спростувати — не завжди це працює через різноманітні причини.

Ми всі стикалися із “неправильним сприйняттям”, що є нашими людськими когнітивними відхиленнями. Чи може ШІ потрапити в ті ж помилки? Чи є ілюзії ШІ своєрідними “когнітивними спотвореннями” у світі ШІ? Для розкриття цих таємниць ми повинні провести поглиблений аналіз обох проявах.

Підсумовуючи, можна стверджувати, що навіть у контексті швидкого розвитку технологій і адаптації нових відкриттів, важливо розуміти сутність і ілюзії ШІ, а також їх можливий вплив на наше повсякденне життя. Знання про ці риси можуть допомогти нам зрозуміти, як краще використовувати можливості ШІ, уникаючи його підводних каменів.