Почему Google AI ошибается в простых словах — проблема токенизации и доверия

Друзья, хочу поделиться из мира ИИ: Google Search с AI-обзорами демонстрирует базовые орфографические ошибки.

- TechCrunch заметил, что обзоры дают неверный подсчёт букв и искажают написание слов и имен.
- Причина в архитектуре LLM: модели оперируют токенами, а не буквами, и не «читают» слова как человек.
- Последствие: даже мощные модели совершают простые ошибки, которые трудно устранить.

Почему это важно: такие сбои подрывают доверие к поисковым ответам и требуют человеческой проверки.

Какие практики валидации Вы применяете при работе с генеративным ИИ?

#ИИ #Google #LLM #поиск