Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Под колпаком: как нами управляют приложения для знакомств и родительского контроля Под колпаком: как нами управляют приложения для знакомств и родительского контроля

Не все полезные приложения безвредны

Forbes
Homo uillaris Homo uillaris

Человек дачный: эта фанатично увлеченная порода людей легкоузнаваема

КАНТРИ Русская азбука
Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения

Влияет ли пол на музыкальные предпочтения?

Forbes
Самое полезное время Самое полезное время

Утренние привычки, которые ускоряют уход веса

Лиза
Не наступить на грабли Не наступить на грабли

Базовый набор инструментов для дачи: как правильно выбрать и хранить

КАНТРИ Русская азбука
Ольга Дибцева: «Только движение спасает от всего плохого» Ольга Дибцева: «Только движение спасает от всего плохого»

Актриса Ольга Дибцева — о съёмках после родов и своём целебном лайфхаке

Здоровье
«Жена айтишника»: с чем сталкиваются женщины, которые эмигрируют из-за работы мужа «Жена айтишника»: с чем сталкиваются женщины, которые эмигрируют из-за работы мужа

Как повышение близкого человека может стать источником проблем

Forbes
Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов

Пиво, чемпионы и венчурные фонды: зачем Халк Хоган создал свою лигу?

Forbes
Вы будете платить за уборку вместо арендатора: топ ошибок в договоре аренды коммерческой недвижимости Вы будете платить за уборку вместо арендатора: топ ошибок в договоре аренды коммерческой недвижимости

Как бизнесмены теряют деньги на аренде из-за банальных ошибок

Inc.
Встреча в лифте Встреча в лифте

О движении навстречу друг другу и о движении от себя-ребенка к себе-родителю

Afternoon Seasons of life
Ночные тайны Ночные тайны

Что скрывает ваш сад ночью, подскажет... фотокамера

КАНТРИ Русская азбука
Излучение квазара подавило звездообразование в галактике из ранней Вселенной Излучение квазара подавило звездообразование в галактике из ранней Вселенной

Молекулярный газ ранней Вселенной разрушается под действием излучения квазара

N+1
Большая четверка Большая четверка

Часть истории российской моды — о поиске, независимости и вере в свое дело

Afternoon Seasons of life
Девять «Оскаров», похвала критиков и один большой скандал: чем велик «Последний император» Бертолуччи Девять «Оскаров», похвала критиков и один большой скандал: чем велик «Последний император» Бертолуччи

Как «Последний император» покорил критиков и возмутил историков

Правила жизни
Владимир Жириновский Владимир Жириновский

Правила жизни политика Владимира Жириновского

Правила жизни
Как отмыть увлажнитель воздуха от накипи и налета Как отмыть увлажнитель воздуха от накипи и налета

Как почистить увлажнитель воздуха от накипи, чтобы он радовал вас чистым паром

CHIP
Кино по правилам и без Кино по правилам и без

Фильмы, создатели которых не побоялись нарушить заданные стандарты

Правила жизни
Александр Невский и его время Александр Невский и его время

Александр Невский правил в тяжелое для нашего отечества время

Знание – сила
Хоббиномика: как научиться управлять вниманием и развить эмпатию с помощью чтения Хоббиномика: как научиться управлять вниманием и развить эмпатию с помощью чтения

Почему чтение все еще актуально и где искать хорошие книжные рекомендации

Forbes
7 неверных установок 7 неверных установок

Они накрепко засели у нас голове еще с детства – и сильно отравляют жизнь

Лиза
Зовите на мечту: как предпринимателю собрать команду — советы Александра Мутовина Зовите на мечту: как предпринимателю собрать команду — советы Александра Мутовина

Как собрать команду, с которой бизнес будет расти?

Forbes
Представь, что... Представь, что...

Почему стоит довериться роботу и спланировать путешествие с помощью Chat GPT

Новый очаг
Как сохранять по две тысячи рублей каждый месяц: 5 советов по экономии света в квартире Как сохранять по две тысячи рублей каждый месяц: 5 советов по экономии света в квартире

Не только лампочки: неочевидные способы снизить расход электроэнергии

ТехИнсайдер
Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий Мягкая сила: как бывшие спецназовцы развивают региональную сеть фитнес-студий

Как армейские друзья создали сеть студий «мягкого» фитнеса

Forbes
Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе

Астрономы нашли экзогиганта на необычно широкой и ретроградной орбите

N+1
Тайна самых древних галактик остается неразрешимой Тайна самых древних галактик остается неразрешимой

Джеймс Уэбб он столкнулся с тайной, которую не удается разрешить до сих пор

ТехИнсайдер
Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит? Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит?

Для чего человеку нужны ресницы и что будет, если их сбрить?

Inc.
Кино привезли Кино привезли

Сколько стоили импортные фильмы России

Деньги
Маурицио Каттелан Маурицио Каттелан

Правила жизни художника Маурицио Каттелана

Правила жизни
Атомное размещение Атомное размещение

Зачем «Росатом» решил размещать облигаций за рубежом?

Ведомости
Открыть в приложении