Нейросетям понизят температуру

На рынке поисковых систем с технологией нейросетевого поиска проблема выдумывания ИИ фактов остается актуальной.

Эта уязвимость создает сложности для внедрения ИИ в те отрасли, где точность — ключевой фактор и носит критический характер, например, медицинские справочники, энциклопедии и т.п., пишет «КоммерсантЪ».

Для решения проблемы используется донастройка поиска. Представитель «Рувики» рассказал изданию, они внедрили ИИ-поиск с несколькими правилами, когда нейросеть, основанная на Yandex GPT, сначала анализирует материалы в самой энциклопедии, а затем создает по запросу пользователя саммаризированный ответ. В компании уточнили, чтобы снизить риск появления ошибок, ИИ-ассистен формирует ответ только из статей сервиса, которые отредактированы экспертами научных организаций, в числе которых Российская академия наук.

Первый зампред ИТ-комитета Госдумы Антон Горелкин отметил:

Если мы говорим про энциклопедические ресурсы, их существование невозможно без участия профильных специалистов, обладающих нужными компетенциями в части верификации научных данных. В данном случае их задачей становится еще и профилактика появления ИИ-галлюцинаций, когда нейросеть пытается угодить пользователю и сочиняет те или иные факты.

Снизить число ошибок ИИ, также помогает понижение температуры нейросети, рассказал представитель «Рувики». Этот параметр регулирует креативность ответов и при минимальном значении алгоритм выдает только те данные, на которых обучена нейросеть, а не генерирует новые смыслы.

изображение freepik