Google прекрати нова AI функция в търсачката си, която предоставяше здравни съвети, събрани от онлайн дискусии. Решението идва на фона на засилен обществен и експертен натиск относно използването на изкуствен интелект за предоставяне на медицинска информация на милиарди потребители.

Функцията „What People Suggest“ използва AI, за да обобщава мнения и опит на хора със сходни здравословни проблеми. Компанията заявява, че това демонстрира „потенциала на AI да подобри здравните резултати в световен мащаб“.

Трима източници, цитирани от The Guardian, съобщават, че инструментът е премахнат без публично съобщение. Говорител на Google потвърждава, че функцията е премахната като част от „по-широко опростяване“ на страницата с резултати и подчертава, че това не е свързано с качеството или безопасността.

Засилен натиск върху AI здравните функции

Решението е взето на фона на нарастващи опасения относно надеждността на здравната информация, генерирана от изкуствен интелект.

Разследване на The Guardian от януари установява, че потребителите могат да бъдат изложени на риск от подвеждащи или неточни медицински съвети в т.нар. AI Overviews, които представляват автоматично генерирани обобщения над традиционните резултати от търсенето.

Тези AI обобщения достигат до около 2 милиарда души месечно.

Първоначално Google омаловажава критиките, като заявява, че AI Overviews насочват към надеждни източници и насърчават потребителите да търсят експертна медицинска помощ. Само няколко дни по-късно компанията премахва функцията за част от медицинските търсения.

Тихата революция във фармацията: Как AI спестява милиарди, без да създава нови лекарства?

Какво представляваше „What People Suggest“?

Функцията беше представена за първи път през март миналата година на събитие в Ню Йорк, посветено на технологиите в здравеопазването. Тогава Google обяви планове за разширяване на AI обобщенията по здравни теми. „What People Suggest“ предоставяше обобщена информация от онлайн форуми и дискусии, за да помогне на потребителите да разберат как други хора се справят с конкретни състояния.

Например човек с артрит можеше да види как други пациенти упражняват физическа активност или се справят със симптомите.

Карън ДеСалво, тогавашният главен здравен директор на Google, подчертава в своя блог публикация, че освен експертни източници хората често ценят и личния опит на други пациенти.

Функцията първоначално беше достъпна на мобилни устройства в САЩ.

Когато AI пише книги на здравна тематика: опасни медицински съвети заливат Amazon

Причините за премахването не са особено ясни

Източници съобщават, че инструментът вече е напълно прекратен. „Той е мъртъв“, казва един от запознатите с решението.

Google обаче твърди, че премахването е било планирано преди месеци като част от редизайн на страницата с резултати.

При запитване от журналисти за публично обявено решение компанията посочва блог публикация от ноември на служител в Google Швейцария, която не споменава конкретно „What People Suggest“.

Говорител на компанията отново подчертава, че безопасността не е била фактор и че Google продължава да насочва потребителите към надеждна здравна информация, включително форуми с лични истории, които според компанията са полезни за много хора.

Meta AI: Едно опасно присъствие във Facebook групите за съвети и консултации

AI здравните инициативи продължават

Въпреки оттеглянето на функцията Google запазва амбициите си в областта на изкуствения интелект и здравеопазването.

На предстоящото събитие „The Check Up“ компанията ще представи нови разработки, партньорства и изследвания, насочени към решаване на глобални здравни предизвикателства чрез изкуствен интелект.

Случаят подчертава напрежението между бързото внедряване на AI иновации и нуждата от надеждност, особено когато става въпрос за здравето на милиони потребители по света.