Будьте обережні з порадами чат-ботів, бо ШІ, здається, хоче, щоб ви платили більше
Штучний інтелект демонструє відчутне комерційне упередження під час вибору медичних препаратів, йдеться в дослідженні, опублікованому в журналі Nature Health. Його провели науковці з Міського університету Осаки. Виявилося, що цифрові помічники віддають перевагу ліками з гучною медійною присутністю та високими позиціями в пошукових системах, а не оцінюють їхню реальну клінічну ефективність.
Для роботи науковці проаналізували приблизно 883 000 відповідей п’яти передових моделей штучного інтелекту. Серед них були Claude Sonnet 4.6 від Anthropic, GPT-5.4 від OpenAI, Gemini 3.1 Flash від Google, Llama 4 від Meta та MedGemma від Google DeepMind. Усі ці системи отримували запитання щодо тисяч змодельованих клінічних ситуацій, тобто умовних випадків, які дозволяли перевірити, як алгоритми підбирають ліки.
Результати виявилися показовими. У 97,5% випадків алгоритми ставили на перше місце лише один комерційний бренд і повністю відкидали аналоги, які мають такий самий склад, але значно дешевші. Тобто з кількох препаратів, що містять ідентичні діючі речовини, перевагу отримував той, який краще відомий широкій аудиторії.
Водночас поради штучного інтелекту збігалися з реальними лікарськими призначеннями лише у 29,7% відповідей. Ця цифра показує, наскільки далеко відповіді чат-ботів можуть відійти від того, що фактично обрав би фахівець для конкретного пацієнта.
Провідний дослідник проєкту професор Дайдзю Уеда прокоментував ситуацію так: «Рекомендації стосувалися переважно брендових ліків – тих, які дуже помітні в пошуку Google і мають окремі сторінки у Вікіпедії». Саме ця залежність від видимості в інтернеті, а не від клінічної користі, стала головною причиною упередження, яке виявили автори роботи.
Тяжіння штучного інтелекту до препаратів з високою впізнаваністю в мережі безпосередньо впливає на гаманці споживачів. Порівняно зі стандартними рецептами від реальних медиків чат-боти обирали найдорожчі варіанти з наявних на ринку у 74,5% випадків. Для людини, яка шукає пораду в такому помічнику і купує ліки за його рекомендацією, це може означати суттєво більші витрати без додаткової користі для здоров’я.
Тому технології наразі не можуть замінити клінічний досвід лікарів і потребують жорсткого регуляторного контролю. Дослідники наголошують, що медичний штучний інтелект необхідно ретельно перевіряти на комерційні перекоси. На їхню думку, безпечне застосування алгоритмів можливе лише в поєднанні з перевіреними медичними базами даних і обов’язковим наглядом з боку фахівців. Адже йдеться про сферу, де помилки в доборі препаратів можуть коштувати пацієнтам здоров’я та грошей.
Джерело: 24tv.ua
- Последние
- Популярные
Новости по дням
2 ноября 2026
