Проектирование ИИ-продуктов

Если вы проектируете функции ИИ так же, как проектируете функции обычного программного обеспечения, результат, скорее всего, разочарует пользователей.

• Обычное программное обеспечение детерминировано — вы нажимаете «сохранить», оно сохраняет, каждый раз одно и то же.

• ИИ-продукты вероятностны — вы просите его написать текст, в этот раз он отлично справляется, но в следующий раз может не справиться.

Когда обычное программное обеспечение даёт сбой, оно показывает сообщение об ошибке; когда дают сбой ИИ-продукты, они могут уверенно выдумывать, заставляя вас думать, что они правы.

Это фундаментальное различие означает, что проектирование ИИ-продуктов требует совершенно нового подхода.

Традиционный дизайн продуктов стремится к отсутствию дефектов, когда пользователи каждый раз получают одинаковый результат. Дизайн ИИ-продуктов должен приниматьвероятностный вывод, помогая пользователям понимать неопределённость результатов и справляться с ней.

Продуктовое мышление для ИИ

Чтобы проектировать хорошие ИИ-продукты, сначала нужно понять уникальность ИИ и психологические изменения, которые он вызывает у пользователей.

Вероятностный вывод

Вывод больших моделей по сути представляет собой вероятностную выборку. Один и тот же вопрос может каждый раз давать разные ответы — иногда хорошие, иногда плохие, иногда посредственные. Это не ошибка; это особенность ИИ.

Для дизайнеров это означает несколько ключевых принципов:

Хорошие ИИ-продукты не пытаются скрыть эту неопределённость, а превращают её в преимущество.

Психология пользователя: управление ожиданиями

Ожидания пользователей от ИИ часто колеблются между двумя крайностями: либо завышенные ожидания, либо полное недоверие к нему.

Люди, впервые использующие ChatGPT, часто поражаются тому, насколько он потрясающий, и верят, что ИИ всемогущ.

Но когда ИИ совершает глупую ошибку, они могут сразу перейти к «ИИ — так себе».

Задача продуктового дизайнера состоит в том, чтобыпривести ожидания пользователей в разумные рамки。

Как?

• Во-первых, четко скажите пользователям, что ИИ может и чего не может.

• Во-вторых, когда ИИ ошибается, не пытайтесь скрыть ошибки — признавайте их честно.

• В-третьих, дайте пользователям контроль — позвольте им настраивать, редактировать и переопределять вывод ИИ.

Хорошие ИИ-продукты дают пользователям почувствовать: ИИ — мой помощник, а не начальник.

Режимы отказов ИИ-продуктов

ИИ-продукты отказывают совсем не так, как традиционное программное обеспечение.

Традиционное программное обеспечение либо работает, либо нет — оно падает, сообщает об ошибках или функции перестают работать.

Сбои ИИ-продуктов более тонкие:

Понимание этих режимов отказа — первый шаг к созданию хороших ИИ-продуктов.

Принципы проектирования функций ИИ

Три ключевых принципа: постепенное раскрытие, контроль пользователя и прозрачное уведомление.

Постепенное раскрытие

Не вываливайте все функции на пользователя.

Идеальный сценарий: сначала дайте пользователям простую отправную точку, затем постепенно показывайте больше опций по мере необходимости.

Например, когда пользователь пишет электронное письмо:

• Шаг 1: Введите тему или ключевые слова, и ИИ создаст черновик.

• Шаг 2: После просмотра черновика пользователь может настроить тон, длину и стиль.

• Шаг 3: При необходимости они могут дополнительно доработать конкретные абзацы или попросить ИИ предложить несколько разных версий.

Преимущества такого дизайна:

Новичков не будут пугать сложные опции, а эксперты смогут найти достаточно возможностей для управления.

Управляемость: позволяем пользователям настраивать вывод ИИ

Пользователи должны чувствовать, что окончательное решение принимают они.

Предоставьте элементы управления, а не одноразовый результат в духе «бери или не бери».

Типичные параметры управления:

Более продвинутый контроль: позвольте пользователям напрямую редактировать промпт ИИ или сохранять свои часто используемые шаблоны промптов.

Прозрачность: информирование пользователей о том, что это сгенерировано ИИ

Сообщение пользователям о том, что они взаимодействуют с ИИ, — это не только этический вопрос, но и вопрос пользовательского опыта.

Если пользователи думают, что это написал реальный человек, они почувствуют себя обманутыми, когда узнают, что это ИИ.

Если с самого начала указано, что это сгенерировано ИИ, пользователи на самом деле будут более снисходительны и более готовы участвовать в улучшениях.

Несколько подходов к прозрачности:

• Во-первых, чёткая маркировка — используйте визуальные элементы, чтобы отличать контент ИИ от пользовательского контента.

• Во-вторых, покажите процесс — дайте пользователям увидеть, как ИИ генерирует результаты (например, показывая процесс размышления и найденные источники).

• В-третьих, объясните ограничения — расскажите пользователям, какие типы ошибок может допускать ИИ и как их распознать.

Прозрачность формирует доверие. Когда пользователи знают, что это ИИ, они будут использовать его правильно — как справочный материал, а не слепо доверять.

Дизайн пользовательского опыта

У ИИ-продуктов есть несколько ключевых точек опыта: состояния загрузки, обработка ошибок и механизмы обратной связи.

Дизайн состояния загрузки: потоковый вывод

Большим моделям требуется время для генерации контента. Если заставить пользователей 10 секунд ждать без дела, это приведёт к плохому опыту.

Лучшая практика — этопотоковый вывод: содержимое появляется на экране слово за словом.

Почему это хорошо?

• Во-первых, пользователи чувствуют, что система работает и не зависла.

• Во-вторых, пользователи могут начать читать раньше и уже на полпути понять, то ли это направление, которое им нужно.

• В-третьих, если направление неверное, они могут прервать в любой момент, не дожидаясь завершения полной генерации.

Помимо потокового вывода, вы также можете:

• Показывать индикаторы прогресса — «думает», «получает данные», «генерирует».

• Указывать примерное время — «примерно 10 секунд».

• Предусмотреть кнопку отмены — чтобы пользователи могли остановиться в любой момент.

Стратегии обработки ошибок и деградации

ИИ неизбежно будет ошибаться. Хороший дизайн продукта делает ошибки менее пугающими.

Когда вывод ИИ явно проблематичен:

• Во-первых, дайте пользователям простую кнопку «не устраивает» или «повторить».

• Во-вторых, предложите альтернативы — «как насчёт попробовать этот ракурс?»

• В-третьих, позвольте пользователям легко откатиться к предыдущему состоянию.

Более серьёзные ошибки (например, модель полностью отказывает):

Имейте запасной план. Например, когда ИИ недоступен, предоставьте библиотеку шаблонов, из которой пользователи смогут выбрать вручную.

Механизмы обратной связи

Обратная связь от пользователей — ценный ресурс для улучшения ИИ-продуктов.

Но функция обратной связи не должна быть слишком сложной, иначе пользователи не захотят её использовать.

Простой и эффективный дизайн обратной связи:

• Во-первых, лайк/дизлайк — выражение удовлетворённости или неудовлетворённости в один клик.

• Во-вторых, короткий вопрос с вариантами — «Что не так?» (Слишком длинно, слишком коротко, не по теме, фактические ошибки...).

• В-третьих, необязательное текстовое поле — позволяет пользователям подробнее описать проблему, но это не обязательно.

• В-четвёртых, расскажите пользователям, для чего нужна обратная связь — «Ваша обратная связь поможет нам улучшить продукт».

После сбора обратной связи лучше всего показать пользователям подтверждение в интерфейсе — «Спасибо за обратную связь, мы её получили».

Продуктизация промптов

Хорошие промпты — ключевое конкурентное преимущество ИИ-продуктов. Превратите промпты из «магии» в управляемые продуктовые функции.

Упаковка промптов как продуктовых функций

Обычным пользователям не нужно знать, что такое «системный промпт».

Им достаточно знать: нажмите эту кнопку — и вы получите черновик официального письма.

Поэтому задача дизайнера — инкапсулировать сложные промпты в простые функциональные кнопки.

Например:

Исходный промпт может быть очень длинным:

你是一个专业的邮件写作助手。请帮用户写一封正式、礼貌、简洁的商务邮件。
要求：1. 开头要有合适的称呼；2. 正文表达清晰；3. 结尾要有礼貌的结束语。
语气要专业但不生硬，友好但不过分随意。

После продуктизации пользователи видят всего лишь:

• Кнопку — «Написать деловое письмо».

• Несколько простых опций — «Формальный/Нейтральный/Дружелюбный», «Краткий/Подробный».

В этом суть продуктизации промптов:Сложность оставьте себе, простоту — пользователям.。

Управление версиями системных промптов

Промпт не считается завершённым сразу после написания; ему нужна непрерывная итерация.

Вы можете обнаружить, что новая версия промпта лучше работает для сценария A, но хуже для сценария B.

Поэтому промптам нужно управление версиями, как коду.

Ключевые практики:

• Во-первых, дайте каждой версии номер или имя — «v1.0», «v1.1», «Experimental - Friendlier».

• Во-вторых, фиксируйте изменения для каждой версии — «Что изменилось, почему изменилось, ожидаемое влияние».

• В-третьих, вы можете одновременно запускать несколько версий для A/B-тестирования.

• В-четвёртых, вы можете быстро откатиться к предыдущей версии.

При итерациях над промптами всегда сохраняйте возможность отката. Новая версия может принести неожиданные проблемы.

A/B-тестирование промптов

Две версии промпта — какая лучше? Не гадайте; пусть говорят данные.

Идея A/B-тестирования:

• Некоторые пользователи используют версию A, а некоторые — версию B.

• Посмотрите, у какой версии выше удовлетворённость пользователей, ниже частота повторных попыток и лучше процент завершения.

Ниже приведён простой скрипт на Python, демонстрирующий, как выполнить анализ A/B-тестирования для промптов:

Запустите этот скрипт, и вы получите наглядный отчёт A/B-теста, показывающий, какая версия промпта работает лучше.

============================================================
EXAMPLE Prompt A/B 测试报告
============================================================

版本 A (基准):
  样本量: 6
  平均满意度: 3.50/5
  完成率: 83.3%
  平均重试次数: 0.67

版本 B (新方案):
  样本量: 6
  平均满意度: 4.17/5
  完成率: 100.0%
  平均重试次数: 0.17

对比结果:
  满意度变化: +0.67
  完成率变化: +16.7%
  重试次数变化: -0.50

结论: 版本 B 表现更好

按测试用例细分:
  邮件写作: A=3.50, B=4.50 (B更好)
  摘要生成: A=3.50, B=3.50 (A更好)
  代码解释: A=3.50, B=4.50 (B更好)

Прототипирование функций ИИ

Прежде чем инвестировать значительные ресурсы в разработку, сначала используйте недорогой подход, чтобы проверить, действительно ли функция ИИ полезна.

Быстрое прототипирование с Claude/ChatGPT

Простейший прототип: напрямую используйте чат-интерфейс большой модели, чтобы имитировать функциональность продукта.

Например, вы хотите создать генератор вопросов для собеседования:Напишите промпт, описывающий нужную функцию, затем введите несколько тестовых примеров и наблюдайте за качеством вывода.

Цель этого этапа — проверить:

• Во-первых, может ли ИИ выполнить эту задачу?

• Во-вторых, достаточно ли хорошее качество вывода?

• В-третьих, будет ли эта функция полезна пользователям?

Не нужно писать код или проектировать UI; просто используйте обычный текстовый диалог, чтобы проверить основную ценность.

Если этот этап покажет плохие результаты, либо улучшите промпт, либо пересмотрите, стоит ли создавать эту функцию.

Компоненты ИИ-прототипа в Figma

После подтверждения ценности основной функциональности следующий шаг — создать высокодетализированный прототип.

Figma — отличный инструмент для этого.

Вы можете спроектировать:

• Как пользователь вводит данные?

• Как отображается вывод ИИ?

• Как пользователи настраивают и редактируют?

Главное —имитировать реальные сценарии взаимодействия, а не просто рисовать статичные интерфейсы.

Вы можете использовать интерактивные возможности Figma, чтобы «генерировать» разный контент, когда пользователи нажимают кнопки (заранее подготовьте несколько примеров результатов).

Так пользователи смогут почувствовать: ага, вот как работает продукт.

Low-code-инструменты для создания приложений с ИИ

Если вам нужен более реалистичный опыт взаимодействия, вы можете использовать low-code-инструменты, чтобы быстро собрать работающий прототип.

Эти инструменты позволяют подключить большую модель к реальному веб-приложению без написания бэкенд-кода.

Преимущества:

Пользователи могут реально им пользоваться, а не просто смотреть демо.

Вы можете собирать реальные данные об использовании и обратную связь.

После успешной валидации вы можете использовать этот прототип как ориентир для разработки.

Цель прототипа — учиться, а не быть идеальным. Проверяйте идеи как можно быстрее, выявляйте проблемы и итерируйте.

Оценка качества выходных данных ИИ

Как определить, хорош ли вывод ИИ? Нужна система оценки, сочетающая качественные и количественные методы.

Качественная оценка: проверка человеком

Некоторые вещи могут оценить только люди.

Например: полезен ли ответ? Уместен ли тон? Последовательна ли логика?

Подход к проверке человеком:

• Во-первых, разработайте таблицу критериев оценки — например, релевантность, точность, полезность и безопасность.

• Во-вторых, привлеките нескольких проверяющих для независимого выставления оценок, чтобы уменьшить личную предвзятость.

• В-третьих, превратите оценки и комментарии в конкретные предложения по улучшению.

Проверка человеком важна, но она медленная, дорогая и её трудно масштабировать. Поэтому её нужно сочетать с автоматизированной оценкой.

Количественная оценка: автоматизированное оценивание

Используйте программы для оценки вывода ИИ.

Распространённые методы автоматизированной оценки:

Автоматизированная оценка не может полностью заменить людей, но она может:

• Во-первых, быстро отсеивать явно проблемные результаты.

• Во-вторых, запускать регрессионные тесты во время итераций версий — «не ухудшило ли это изменение какие-либо сценарии?»

• В-третьих, отслеживать качество онлайн-сервиса и своевременно выявлять проблемы.

Создание золотого тестового набора

Соберите набор высококачественных тестовых примеров и запускайте их на этом наборе каждый раз, когда изменяете промпты или модели.

Это и естьзолотой тестовый набор。

Хороший тестовый набор должен:

• Во-первых, охватывать типичные сценарии использования — распространённые типы пользовательских запросов.

• Во-вторых, включите граничные случаи — экстремальные, подверженные ошибкам входные данные.

• В-третьих, имейте эталонные ответы или критерии оценки — знайте, что считается "хорошим" результатом.

• В-четвёртых, будьте умеренного размера — от десятков до сотен случаев, достаточно представительных, но не слишком медленных при запуске.

Золотой тестовый набор — это как страховка: вы можете уверенно итерировать, не беспокоясь о случайной поломке важных сценариев.

Пути коммерциализации ИИ-продуктов

Когда у вас есть хороший продукт, как извлекать из него доход? Существует несколько распространённых моделей коммерциализации ИИ-продуктов.

Выбор модели зависит от позиционирования вашего продукта и целевых пользователей.

Для массовых потребителей чаще встречаются модели фримиум или подписки.

Для корпоративных клиентов больше подходят оплата по мере использования или индивидуальные решения.

Но независимо от модели основной принцип таков:Пользователи должны по-настоящему ощущать ценность。

Пример из практики: разбор отличных ИИ-продуктов

Давайте посмотрим на несколько удачных ИИ-продуктов и поучимся их подходу к дизайну.

ChatGPT: эталон диалогового взаимодействия

Успех ChatGPT — это не только технологический успех, но и успех в дизайне.

Его ключевые дизайнерские решения:

• Во-первых, формат диалога — пользователям не нужно осваивать новый способ взаимодействия; это как общение с человеком.

• Во-вторых, потоковый вывод — символы появляются один за другим, благодаря чему у пользователя возникает ощущение, что ИИ думает.

• В-третьих, контекстная память — можно сказать «сделай ту последнюю часть короче», и она запомнит, что такое «та последняя часть».

• В-четвёртых, простой повтор — не устраивает? Просто нажмите «regenerate».

• В-пятых, управление историей бесед — можно возвращаться к предыдущим беседам и продолжать с того места, где вы остановились.

Эти решения выглядят простыми, но вместе они создают плавный опыт взаимодействия.

GitHub Copilot: встраивание ИИ в рабочий процесс

Copilot не пытается «заменить программистов», а скорее «усилить программистов».

Мудрость его дизайна:

• Во-первых, ненавязчивость — ИИ работает в фоне, проактивно предлагая подсказки, пока вы пишете код, не нарушая ваш мыслительный процесс.

• Во-вторых, минимум обязательств — вы можете просмотреть подсказку ИИ; если она вам нравится, нажмите Tab, чтобы принять её; если нет, продолжайте печатать.

• В-третьих, учёт контекста — он смотрит на ваш код, комментарии и имена файлов, чтобы понять, что вы пытаетесь сделать.

• В-четвёртых, несколько вариантов — он предлагает несколько подсказок, и вы можете выбрать ту, которая лучше всего соответствует вашему замыслу.

Успех Copilot показывает:Лучший ИИ-продукт заставляет пользователей не ощущать присутствие ИИ, а только чувствовать, что они стали сильнее.。

Notion AI: ИИ в роли помощника по написанию текстов

Notion AI не стал отдельным продуктом; вместо этого возможности ИИ были встроены в существующий инструмент для ведения заметок.

Ключевые особенности его дизайна:

• Во-первых, контекст — это ваш документ: не нужно копировать и вставлять; ИИ работает прямо там, где вы пишете.

• Во-вторых, готовые шаблоны — «продолжить написание», «суммировать», «сделать более официальным» — обычные действия, запускаемые одним щелчком.

• В-третьих, смешанное редактирование — вы можете в любой момент изменять сгенерированный ИИ контент, и ИИ может продолжить написание с учётом ваших правок.

Такой дизайн делает ИИ частью творческого процесса, а не отдельным инструментом.

Из этих трёх примеров видно: хорошие ИИ-продукты не демонстрируют технологии, а действительно решают проблемы и облегчают работу пользователей.