«Рассуждающая» ИИ-модель OpenAI почему-то стала переходить на китайский язык

«Рассуждающая» ИИ-модель OpenAI, o1, демонстрирует необычное поведение: она иногда переключается на китайский, персидский или другие языки, независимо от искомого языка запроса. Точная причина неясна, но специалисты по ИИ предлагают разные объяснения.

По одной из версий, на языковой результат o1 могут влиять обучающие наборы данных, содержащие много китайских иероглифов. Тед Сяо из Google DeepMind отметил, что такие компании, как OpenAI, используют сторонние сервисы маркировки китайских данных, что может способствовать такому поведению.

Однако другие эксперты с этим не согласны, указывая на то, что модель может переключиться и на другие языки, например хинди или тайский. Мэтью Гуздиал, исследователь в области ИИ, утверждает, что выбор языка моделью может просто отражать наиболее эффективный способ выполнения задачи, поскольку o1 не «знает», что такое язык.

Тижен Ванг из Hugging Face добавил, что модели могут использовать языки, которые лучше подходят для выполнения конкретных задач, например, для эффективности выполнения математических расчетов на китайском языке.

Однако без прозрачности в разработке моделей ИИ такое поведение сложно объяснить до конца.