Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В средневековом европейском борделе похоронили трехмесячного мальчика В средневековом европейском борделе похоронили трехмесячного мальчика

Ученые описали захоронение младенца в средневековом борделе Бельгии

N+1
5 психологических терминов, которые пока не перевели на русский язык 5 психологических терминов, которые пока не перевели на русский язык

Пять психологических терминов из англоязычного интернета

РБК
Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты! Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдер
Франшиза: Что скрывается за этим словом? Франшиза: Что скрывается за этим словом?

Франшиза — идеальный рецепт успеха или сложная система с подводными камнями?

Наука и техника
Лошади стали прекрасными бегунами из-за генетической ошибки Лошади стали прекрасными бегунами из-за генетической ошибки

Мутация, из-за которой лошади должны были вымереть, но стали отличными бегунами

ТехИнсайдер
«Азбука» для «Магнита» «Азбука» для «Магнита»

Фокус инвесторов «Магнита» остается на финансовых результатах

Ведомости
Чечня. Четверть века боли и боя Чечня. Четверть века боли и боя

Краткая история причин, хода и результатов двух чеченских кампаний

Монокль
Атомное размещение Атомное размещение

Зачем «Росатом» решил размещать облигаций за рубежом?

Ведомости
Исторические сведения о сказочных берендеях Исторические сведения о сказочных берендеях

Легендами о лесном царстве берендеев вдохновлялись и Жуковский, и Островский

Знание – сила
Настоящая леди Настоящая леди

Правила поведения в общественных местах: что ты знаешь о приличиях

Лиза
Сев в условиях нехватки влаги Сев в условиях нехватки влаги

Почему сокращаются посевы зерновых культур

Агроинвестор
Красная-красная смесь. Гидросистемы летательных аппаратов Красная-красная смесь. Гидросистемы летательных аппаратов

Как устроены гидросистемы в авиации — от цвета до принципов работы

Наука и техника
Проекции в психологии Проекции в психологии

Проекция в психологии – это бессознательный защитный механизм

Лиза
Напитки с плюсом Напитки с плюсом

Почему растет рынок функциональных продуктов

Агроинвестор
Прохладная экономика Прохладная экономика

Слабая экономическая активность: аргумент в пользу смягчения монетарной политики

Ведомости
Афганская эпопея: оценки сегодняшнего дня Афганская эпопея: оценки сегодняшнего дня

Об условиях, в которых принимались решения о вводе и выводе войск из Афганистана

Монокль
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
«Чеченцы». Поколение «Чеченцы». Поколение

Кем были воины, прошедшие первую и вторую чеченские кампании?

Монокль
Асимметричная военная работа Асимметричная военная работа

Для США Вторая мировая война стала мощным экономическим стимулом

Монокль
Свежая ягода — круглый год Свежая ягода — круглый год

Как функционирует круглогодичный комплекс по выращиванию ягод в Ставрополье

Агроинвестор
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
В Германии, в Германии, проклятой стороне В Германии, в Германии, проклятой стороне

Как советского солдата удержали от мести при штурме Германии

Монокль
Привычка худеть Привычка худеть

Думаешь, как сбросить вес без изнурительных тренировок и жестких диет?

Лиза
Дети войны. Воспоминания Марка Розовского Дети войны. Воспоминания Марка Розовского

Война, эвакуация, московские дворы в воспоминаниях драматурга Марка Розовского

Знание – сила
Атлантические крепости Третьего рейха Атлантические крепости Третьего рейха

Атлантический вал: порты-крепости и их роль в обороне Третьего рейха

Наука и техника
Под знаком футбола Под знаком футбола

Интервью с Марией Галай, футболисткой с девяти лет

Лиза
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
Губительный пожар, которого не было Губительный пожар, которого не было

ЧП на АПЛ К-152: диверсия врага или трагедия из-за человеческого фактора?

Наука и техника
Этноконфессиональные особенности мясного потребления Этноконфессиональные особенности мясного потребления

Под влиянием каких факторов меняется ассортимент мясной продукции

Агроинвестор
Победа и Наука. Взгляд из Сибири Победа и Наука. Взгляд из Сибири

Война стала высшей точкой слияния науки и государства

Знание – сила
Открыть в приложении