Почему ИИ ошибается и как научить ребёнка проверять ответы
ИИ говорит одинаково уверенно, когда прав и когда ошибается. Для взрослого это неприятная особенность, для ребёнка — ловушка. Хорошо, если он узнает о ней раньше, чем начнёт пользоваться ИИ сам.
- Почему ИИ ошибается
- Какие ошибки бывают
- Как научить ребёнка проверять
- Не пугайте, а тренируйте
- Готовые фразы для разговора
Почему ИИ ошибается
ИИ знает мир не напрямую, а только по примерам, на которых его учили. Если примеров было мало, в них были ошибки или вопрос необычный, ИИ всё равно подберёт правдоподобный ответ. Он устроен так, чтобы ответить, а не чтобы сказать «не знаю».
Какие ошибки бывают
Выдуманные факты: ИИ может уверенно сказать, что у паука шесть ног. Буквальное понимание: выполнит слова, а не то, что вы имели в виду. Незамеченные детали: для компьютера картинка — это клеточки и числа, и мелочь легко потерять. Устаревшие сведения: ИИ может не знать о том, что случилось недавно.
В Окти. Уроки «Проверь ответ», «Окти понимает буквально» и «Что видит ИИ?».
Как научить ребёнка проверять
Правило двух источников: если ответ важный, проверяем его ещё в одном месте — в книге, у учителя, у взрослого.
Вопрос «Откуда ты знаешь?» полезно задавать и ИИ, и себе.
Проверка здравым смыслом: сравнить ответ с тем, что ребёнок уже знает или видит своими глазами.
Смелость сказать «ИИ ошибся»: хвалите ребёнка, когда он заметил ошибку.
Не пугайте, а тренируйте
Задача не в том, чтобы ребёнок перестал доверять технологиям, а в том, чтобы проверка стала привычкой, как мыть руки перед едой. Смешные ошибки ИИ здесь помогают: над ними можно посмеяться и разобраться, почему так вышло.
Готовые фразы для разговора
«ИИ говорит уверенно, даже когда ошибается. Поэтому уверенный тон — не доказательство.»
«Давай проверим в книге: если там так же, значит, ИИ прав.»
«Ты нашёл ошибку ИИ — это здорово. Так и работают внимательные люди.»
Игра для дома: «Поймай ошибку»
- Взрослый рассказывает три факта о знакомой вещи. Один из них неверный, но сказан так же уверенно.
- Ребёнок ищет ошибку и говорит, как её можно проверить.
- Поменяйтесь ролями.
Вопросы родителей
Почему ИИ не говорит «не знаю»?
Большинство языковых моделей обучены продолжать текст правдоподобно. Если точного ответа нет, они всё равно подбирают похожий на правду. Поэтому важные ответы стоит проверять.
Как проверять ответы ИИ ребёнку, который ещё плохо читает?
Спросить взрослого или посмотреть вместе в детской энциклопедии. В 6–8 лет главное — сама привычка сомневаться и проверять.
Окти тоже ошибается?
Да, специально. В уроках Окти иногда уверенно ошибается, чтобы ребёнок учился это замечать.
Попробуйте Окти
Бесплатная игра для детей 6–8 лет: ребёнок учит осьминога Окти, даёт ему задания, уточняет, проверяет ответы и исправляет ошибки. Без регистрации и рекламы.