Взгляд на ИИ как на инструмент, который формирует наше настоящее и будущее

Вокруг светаHi-Tech

AI: сложности восприятия

Этой весной ведущие российские и зарубежные исследователи в области ИИ встретились в научной школе «Математика машинного обучения» в новом MICE-павильоне отеля «Точка на карте. Лодейное Поле». Это эксперимент: взглянуть на ИИ как на инструмент, который формирует наше настоящее и будущее.

Что такое ИИ по своей сути, и насколько он реально интегрирован в нашу жизнь?

Иван Оселедец, доктор физико-математических наук, генеральный директор Института искусственного интеллекта AIRI, профессор Сколтеха.

Термин «искусственный интеллект» – удобный способ обозначить целый спектр технологий. Вместо того, чтобы каждый раз перечислять конкретные методы – компьютерное зрение, обработку естественного языка, генеративные модели, – мы используем это общее понятие.

Алексей Наумов, доктор компьютерных наук, директор по фундаментальным исследованиям Института искусственного интеллекта и цифровых наук НИУ ВШЭ.

Для меня ИИ – это наука о том, как научить «машину» думать и принимать решения на основе данных. Два-три года назад мы и не говорили про большие языковые модели, продолжали удивляться самому факту работы нейросетей, а сегодня уже оцениваем их критически: «решает неточно», «формулирует неубедительно». Ожидания возросли – и это закономерно. Однако важно понимать: чтобы нейросети совершенствовались, их необходимо постоянно дообучать, обновлять данные и корректировать алгоритмы. Без этого прогресс невозможен.

Нужно проверять информацию, так как у нейросетей случаются галлюцинации. Технологии стали мощнее, но критическое мышление по-прежнему необходимо.

А как создается галлюцинация у языковой модели?

Иван Оселедец: Модель не «понимает» информацию в человеческом смысле, а предсказывает наиболее вероятный ответ на основе огромного массива данных. Когда вы задаете вопрос, модель анализирует миллионы текстов, находит шаблоны и выдает то, что статистически правдоподобно в данном контексте. Но «правдоподобно» – не всегда значит «правильно». В существующих языковых моделях не заложен механизм проверки фактов. Если появилась ошибка, ее нужно корректировать уже в следующих версиях.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Открыть в приложении