VorobeoffAIВиталий Воробьев

Apple исследует доверие к медицинскому ИИ: до 200 000 участников

Apple запустила в США исследование доверия к медицинскому ИИ с участием до 200 000 человек. Что изучают, как устроен доступ к данным и какие есть ограничения.

15 ноября Apple объявила о запуске в США виртуального исследования Apple Health AI Usage Study, к которому планирует привлечь до 200 000 человек. Участники смогут задавать вопросы о здоровье в специальном приложении на основе платформы OpenEvidence и получать ответы со ссылками на рецензируемые медицинские публикации. Apple изучит качество ответов, их понятность, доверие пользователей и то, как полученная информация влияет на повседневные действия.

Люди всё чаще спрашивают ИИ о симптомах, результатах анализов и подготовке к приёму врача. По данным OpenAI за июль 2026 года, более 300 млн человек еженедельно обращались к ChatGPT с вопросами о здоровье. Но высокий результат модели на тесте ещё не означает, что пациент правильно поймёт ответ или сможет использовать его в разговоре с врачом.

Бенчмарки, то есть стандартизированные тесты, помогают оценить правильность ответов модели. Но по ним трудно понять, разобрался ли пользователь в объяснении, насколько доверяет ему и готов ли обсудить выводы с врачом. Даже правильный ответ может оказаться бесполезным, если человек его не понял. А понятный ответ с чрезмерной уверенностью способен подтолкнуть к ошибочному решению.

Apple решила исследовать это на практике. Вместе с OpenEvidence компания подготовила приложение, которое показывает ссылки на клинические публикации и позволяет по желанию подключить отдельные категории данных из HealthKit, системы доступа приложений к сведениям о здоровье на устройствах Apple. Исследователи хотят выяснить, что помогает людям понимать ответы и как формируется доверие к ним.

Что запустила Apple 15 ноября и на каких условиях

15 ноября 2026 года Apple объявила о наборе участников в США. Исследование проходит дистанционно через отдельное приложение Apple Health AI Study App из App Store и опросы; обязательных визитов в клинику в анонсе не указано.

Страница Apple Health AI Study App в App Store: приложение Apple и примеры сценариев исследования
Страница Apple Health AI Study App в App Store: приложение Apple и примеры сценариев исследования
  • Планируемая выборка — до 200 000 участников в возрасте от 21 года, проживающих в США.
  • Требования к устройству: iPhone с поддержкой Apple Intelligence (iPhone 15 Pro или более новая совместимая модель), iOS 26 или новее.
  • Участник задаёт повседневные вопросы о здоровье, получает объяснения медицинской информации простым языком и ссылки на рецензируемые клинические публикации.
  • Один из сценариев исследования — подготовка к приёму врача: приложение может помочь разобраться в информации и сформулировать вопросы для консультации.
  • Участники оценивают ответы и делятся обратной связью. TechCrunch также сообщает о ежемесячных опросах и предполагаемой продолжительности исследования более 12 месяцев; в релизе Apple этот срок не указан.

В анонсе приводятся слова Сумбул Десаи, вице-президента Apple по направлению Health and Fitness, и Роберта Вахтера, профессора и руководителя кафедры медицины Калифорнийского университета в Сан-Франциско (UCSF). Десаи говорит о необходимости изучать взаимодействие людей с медицинским ИИ, а Вахтер обращает внимание на разрыв между инструментами для пациентов и врачей.

В сноске Apple уточняет: приложение не предназначено для диагностики или лечения заболеваний и не заменяет консультацию врача. Участникам рекомендуют обсуждать вопросы здоровья и проверять медицинскую информацию со специалистом.

Почему Apple изучает не только точность, но и доверие

Медицинские возможности ИИ часто оценивают по результатам тестов: насколько правильно модель отвечает на клинические вопросы. В исследовании Apple этот подход дополняется изучением доверия, качества ответов, их понимания и действий пользователей в повседневной жизни.

Качество ответа и доверие к нему не всегда совпадают. Модель может дать корректное объяснение, но человек воспримет его как разрешение действовать самостоятельно. И наоборот, осторожный ответ могут проигнорировать из-за сложных формулировок. Apple прямо указывает: большие языковые модели иногда дают неполные или неясные ответы, поэтому нужно исследовать, как доносить медицинскую информацию понятнее.

Для команд, которые разрабатывают ИИ-агентов и ассистентов в чувствительных сферах, это дополнительный вопрос к оценке качества: что человек делает после ответа? Одних тестов модели здесь недостаточно. Большая выборка потенциально поможет изучить разные сценарии взаимодействия, но Apple пока не раскрыла подробную методику измерения доверия и действий пользователей.

Ответ с источниками из NEJM и JAMA: чем он отличается от обычного чата

В исследовательском приложении Apple использует технологию OpenEvidence, клинической ИИ-платформы, которой пользуются медицинские специалисты. Она опирается на публикации из таких источников, как The New England Journal of Medicine, Journal of the American Medical Association и Nature, и сопровождает ответы ссылками на рецензируемые исследования. Пользователь получает возможность проверить, на чём основано объяснение.

В универсальном чате ответ может выглядеть убедительно даже без ссылки на источник. Здесь ссылки на медицинские публикации предусмотрены как часть ответа: их можно открыть, проверить исходную формулировку и дату исследования. Это особенно полезно там, где неточность способна повлиять на решение человека о своём здоровье.

Но ссылки сами по себе не гарантируют правильности ответа. Он может оказаться неполным, устаревшим или неприменимым к конкретному случаю. Apple отдельно признаёт, что потребительские системы на основе больших языковых моделей иногда объясняют медицинскую информацию неясно. Пока неизвестно, оценивает ли исследование отдельно, открывают ли участники ссылки и насколько это влияет на их решения.

Другие компании тоже развивают медицинские и оздоровительные функции ИИ. OpenAI предлагает раздел Health в ChatGPT для вопросов о здоровье. Google развивает Google Health и персонального помощника на основе Gemini, который может использовать данные из подключённых источников. Apple в этом исследовании изучает взаимодействие людей с ответами OpenEvidence, основанными на медицинских публикациях.

Данные HealthKit: персонализация и риск избыточного доверия

Ещё одна часть исследования связана с персональными данными. Участник сам решает, предоставлять ли приложению отдельные категории сведений из HealthKit: пульс в покое, активность, данные о сне или результаты анализов. Apple хочет выяснить, как подключение таких данных влияет на уместность и понятность ответов.

Общая политика конфиденциальности исследовательских приложений Apple Health на официальном сайте Apple
Общая политика конфиденциальности исследовательских приложений Apple Health на официальном сайте Apple

Персонализированный ответ может вызвать больше доверия, даже если его точность не проверена. Поэтому приложение не предназначено для постановки диагноза или назначения лечения. В Apple сообщают о защитных механизмах: при некоторых тревожных вопросах система должна предложить обратиться к врачу или другим подходящим ресурсам.

Для разработчиков это практическая задача: чем больше персональных данных использует ассистент, тем внимательнее нужно относиться к ограничениям и возможным ошибкам. Подход Apple предполагает добровольный выбор передаваемых категорий данных, понятные объяснения и возможность обращения к специалисту. Похожие меры полезно учитывать при автоматизации процессов с чувствительными данными, например в финансах и кадровой работе.

Apple отдельно сообщает, что данные исследования не будут использоваться для обучения моделей. Это обещание относится к сведениям, собранным в рамках исследования, и его нельзя автоматически распространять на все данные HealthKit. По информации TechCrunch со ссылкой на Apple, перед передачей в защищённое стороннее облако данные обезличиваются, а OpenEvidence удаляет записи запросов и ответов через 24 часа.

Что взять продуктовым командам вне медицины

Вопросы, которые ставит исследование Apple, актуальны и за пределами медицинских технологий. Они помогут командам, создающим ИИ-помощников для решений с серьёзными последствиями.

  • Оценивайте не только точность. Проверяйте, понял ли пользователь ответ своими словами, насколько обоснованно ему доверяет и какое действие планирует после него.
  • Добавляйте проверяемые источники. Ссылка на первоисточник и дата публикации помогают человеку понять, на чём основан вывод. Но наличие ссылки не заменяет проверку того, соответствует ли она утверждению.
  • Пишите понятным языком и проверяйте объяснения на людях. Технически корректный текст не всегда понятен неспециалисту. Apple исследует, как участники воспринимают медицинские сведения, изложенные доступно.
  • Предусмотрите обращение к специалисту. В чувствительных сценариях ассистент может помочь подготовить вопросы и собрать сведения, не пытаясь заменить профессиональную консультацию.

Такой подход применим и за пределами медицины. При внедрении ИИ-агентов в продукты стоит проверять не только технические журналы работы модели, но и то, как люди понимают рекомендации и используют их.

Где границы и что пока нельзя утверждать

  • География и устройство: только США, только iPhone 15 Pro или новее с iOS 26 и Apple Intelligence. Android, iPad, Mac и владельцы iPhone 15 без приставки Pro не участвуют, хотя в пересказах часто пишут «iPhone 15 или новее».
  • Методика пока не раскрыта подробно: в релизе нет полного списка вопросов, шкал доверия и способов оценки повседневных действий. Поэтому оценить исследовательский протокол по одному анонсу невозможно.
  • Срок 12+ месяцев встречается у TechCrunch, в тексте Apple его нет. На него можно ссылаться только как на сообщение издания, а не как на факт Apple.
  • Медицинский движок внешний: Apple не представляет собственную медицинскую модель, ответы генерирует OpenEvidence. Ошибки клинического ИИ остаются возможными даже с цитированием.
  • Ограниченная выборка: исследование охватывает пользователей совместимых iPhone в США. Его будущие выводы нельзя без дополнительной проверки переносить на другие страны и устройства.
  • Результатов пока нет: набор участников только открыт, а Apple не объявила о выпуске конкретного продукта по итогам исследования.
  • Формулировку про обучение моделей нельзя расширять: study data will not be used to train AI models относится к данным исследования, а не ко всему HealthKit или данным Apple в целом.

Эти ограничения нужно учитывать при оценке будущих результатов. Высокая удовлетворённость интерфейсом ещё не доказывает, что человек правильно понял медицинскую информацию.

Кому наблюдать и как повторить замер доверия у себя

Следить за исследованием стоит разработчикам медицинских сервисов и клиникам, которые используют чаты для общения с пациентами. Оно также интересно компаниям, где ИИ даёт рекомендации с возможными финансовыми или юридическими последствиями, и UX-исследователям, изучающим действия пользователей после получения ответов.

Тем, кто ищет готового медицинского ассистента для внедрения, ждать немедленного продукта по итогам этого исследования не стоит. Apple пока не сообщала, собирается ли выпускать такой сервис и в каких странах он мог бы стать доступным.

Попробовать похожую проверку можно и без 200 000 участников. Возьмите один повторяющийся сценарий, где совет ИИ ведёт к действию: подготовка к встрече, проверка документа или выбор тарифа. Попросите 10–15 человек пересказать ответ своими словами, оценить уровень доверия и объяснить, что они собираются делать дальше. Сравните их пересказ с исходным смыслом и посмотрите, где появляется необоснованная уверенность. Такой небольшой тест не заменит полноценное исследование, но поможет заметить проблемы, которых не видно при проверке точности модели.

Здоровье как проверка на зрелость ИИ

Apple Health AI Usage Study расширяет привычный набор вопросов к медицинскому ИИ. Кроме точности модели исследователи хотят понять, как люди воспринимают ответы и какие действия предпринимают после них. В вопросах здоровья это особенно существенно: даже корректное объяснение может оказаться вредным, если его неверно истолковать.

Для исследования Apple использует технологии OpenEvidence, ссылки на медицинские публикации и добровольно подключаемые данные HealthKit. Компания пока не объявила о запуске отдельного потребительского медицинского ассистента на основе этой работы. Собранные данные могут повлиять на дальнейшее развитие продуктов, но конкретные планы Apple не раскрывает.

Если результаты исследования окажутся полезными, другие разработчики смогут ориентироваться на эту методику при оценке своих помощников. Для медицинских решений уже сейчас разумно проверять источники и обсуждать персональные рекомендации со специалистом. А при разработке ИИ-помощника стоит заранее выяснять, как люди понимают его ответы и на что они решаются после них.

Ссылки

По теме

Продолжить тему

Материалы, которые связаны с этим разбором

Подборка учитывает тему, редкие теги и смысл заголовка с описанием материала.

Открыть материалы по теме ↗

Обсудить задачу

Есть задача, которую хотите усилить с помощью ИИ?

Опишите процесс, что уже пробовали и какой результат хотите получить. Я помогу понять, где ИИ и автоматизация действительно дадут эффект, и предложу понятный следующий шаг. Для первого сообщения достаточно пары абзацев — готовое техническое задание не требуется.