Компания Google скрывает предупреждение об использовании медицинских советов, созданных ее собственным ИИ. Найти подобный дисклеймер в поисковой выдаче оказалось непросто, сообщило издание The Guardian.
Корпорация утверждает, что при ответе на вопросы, связанные со здоровьем, обзоры от ИИ, выводимые над результатами поиска, советуют пользователям обращаться за профессиональной помощью.
«Обзоры на основе ИИ будут информировать людей о том, когда важно обратиться за советом к эксперту или проверить представленную информацию», — заявили в компании.
Однако журналисты выяснили, что подобные предупреждения не появляются в первичных медицинских рекомендациях для пользователей. Дисклеймер можно найти, только если запросить дополнительную информацию, нажав кнопку «Показать больше», утверждают в издании. Даже в таком случае предупреждение появляется только под всеми рекомендациями от ИИ. Оно также печатается более мелким и светлым шрифтом.
«Эта информация предоставляется исключительно в ознакомительных целях. Для получения медицинской консультации или постановки диагноза обратитесь к специалисту. Ответы ИИ могут содержать ошибки» — подобный дисклеймер можно увидеть в конце ответа ИИ.
В свою очередь, в компании Google не стали отрицать, что предупреждение не появляется сразу и печатается другим шрифтом. Однако представитель корпорации заявил, что ответы в разделе «Обзоры ИИ» «побуждают людей обращаться за профессиональной медицинской помощью» и часто упоминают о необходимости обращения к врачам в самом тексте ответа.
Эксперты по ИИ и защитники прав пациентов выразили обеспокоенность подобным поведением нейросети.
«Даже самые передовые модели ИИ сегодня по-прежнему генерируют ложную информацию или демонстрируют подобострастное поведение, ставя удовлетворение пользователя выше точности. В контексте здравоохранения это может быть действительно опасно», — заявил доцент, технолог и исследователь Массачусетского технологического института Пэт Патаранутапорн.
Специалисты также отметили, что обзоры ИИ сфокусирована на скорости, а не на точности ответа. Кроме того, проблемы создают и сами пользователи: они могут задавать неверные вопросы, неправильно оценивать собственные симптомы, а также предоставлять не всю необходимую информацию.
Google представил предсказывающий генетические заболевания ИИ
Google представила предсказывающий генетические заболевания ИИ
Компания Google DeepMind запустила ИИ под названием AlphaGenome. Он способен выявлять генетические факторы, вызывающие заболевания. Нейросеть может анализировать до 1 млн букв ДНК-кода за один раз.
AlphaGenome предсказывает, как мутации влияют на способы контроля генов. ИИ меняет момент их активации и клетки тела, где это происходит, а также уровень, на который установлены их биологические регуляторы. С помощью нейросети ученые хотят получить новые методы лечения.