Культурные коды для ИИ

В Российской академии народного хозяйства и государственной службы при президенте РФ и Институте системного программирования РАН разработали алгоритм  проверки на соответствие российской системе знаний и ценностей больших языковых моделей.

Бенчмарк (программный набор методик и алгоритмов) проверяет ChatGPT и прочие аналогичные боты, основываясь на 14 тысяч ответов на вопросы из различных областей (история, обществознание, национальная безопасность, политология, география и пр.), пишут «Известия».

Руководитель проекта, директор исследовательского центра искусственного интеллекта Института общественных наук (ИОН) РАНХиГС Сергей Боловцов рассказал:

По многим чувствительным вопросам в нашей стране сформирована собственная позиция, которая опирается на отечественные традиции и культурный базис. Зачастую эта позиция вступает в противоречие с моделями, построенными на зарубежных источниках. При этом у нас нет информации, на каких массивах данных обучались эти системы, кто их тестировал, кто выступал экспертом в спорных ситуациях.

Боловцов отметил, боты могут иначе интерпретировать вопрос в политической или гуманитарной сфере, особенно если запрос делает ребенок. В итоге он получает неполный или некорректный с точки зрения законодательства или культурного кода ответ. Опасность состоит в том, что искаженные сведения маленький человек получает на этапе формирования личности.

изображение Freepik