Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Верю – не верю Верю – не верю

7 мифов о вине, которые раздражают истинных ценителей популярного напитка

Лиза
На ремонте На ремонте

Почему обустройство квартиры все реже доверяют профессионалам

Деньги
Стресс в наследство Стресс в наследство

Как на ребенка влияет стресс матери во время беременности?

Здоровье
На берегах Амура На берегах Амура

Хабаровск – город, который можно не только посетить, но и… носить в кошельке!

Лиза
Чечня. Четверть века боли и боя Чечня. Четверть века боли и боя

Краткая история причин, хода и результатов двух чеченских кампаний

Монокль
Канны-2025: отцы и дочери, смена поколений Канны-2025: отцы и дочери, смена поколений

В Каннах самые звездные дорожки, но все меньше проектов с голливудскими звездами

Ведомости
Александр Невский и его время Александр Невский и его время

Александр Невский правил в тяжелое для нашего отечества время

Знание – сила
Идеальные партнеры Идеальные партнеры

Как правильно сочетать разные цветы в саду

Добрые советы
Как выбрать брокера Как выбрать брокера

Как выбрать яхтенного брокера и избежать ошибок?

Y Magazine
Афганская эпопея: оценки сегодняшнего дня Афганская эпопея: оценки сегодняшнего дня

Об условиях, в которых принимались решения о вводе и выводе войск из Афганистана

Монокль
Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц

Шесть современных произведений, которые переосмысляют легендарные сюжеты

Forbes
От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе

Как Баттерфилд работала с Маском и какой путь она выбрала, когда ушла из SpaceX

Forbes
Тарифная суматоха Трампа Тарифная суматоха Трампа

Координаты пространства конфликта, разгоревшегося в международной торговле

Монокль
Раскрыт секретный рецепт римского бетона, который пережил тысячелетия Раскрыт секретный рецепт римского бетона, который пережил тысячелетия

Чем состав и технология производства римского бетона отличались от современного

Inc.
Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием

Как Австралия смогла войти в топ-20 самых безопасных стран мира для женщин?

Forbes
Все, о чем вы стеснялись спросить стоматолога: 10 вопросов об имплантации зубов Все, о чем вы стеснялись спросить стоматолога: 10 вопросов об имплантации зубов

Долго ли приживаются импланты зубов, насколько дорого их ставить и как ухаживать

ТехИнсайдер
Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку

Как проявляется мизогиния в нашей жизни и как правильно с ней бороться?

Лиза
Кем был воин Афгана Кем был воин Афгана

О ветеранах-«афганцах», наших соотечественниках по единому Советскому Союзу

Монокль
«Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства «Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства

Как Линн Рэмси превращает сюжет, знакомый многим семьям, в мрачный хоррор

Forbes
Hовые имена в моде Hовые имена в моде

Сверкающее вау: новейшие супергерои модной индустрии!

Собака.ru
Девять «Оскаров», похвала критиков и один большой скандал: чем велик «Последний император» Бертолуччи Девять «Оскаров», похвала критиков и один большой скандал: чем велик «Последний император» Бертолуччи

Как «Последний император» покорил критиков и возмутил историков

Правила жизни
Экономическое здоровье российских регионов Экономическое здоровье российских регионов

Как выглядит динамика экономического здоровья регионального бизнеса

Эксперт
Россия в многополярной глобальной экономике Россия в многополярной глобальной экономике

Мы вновь слышим о восстановлении барьеров в торговле

Ведомости
Самый сок Самый сок

Готовим полезные напитки из дачных ягод, фруктов и овощей

Добрые советы
Антон Богданов: «Хвала режиссерам, которые не обращают внимания на амплуа» Антон Богданов: «Хвала режиссерам, которые не обращают внимания на амплуа»

Антон Богданов рассказал о том, как готовился к роли подводника в «Кракене»

Ведомости
«Стоять на обочине с полным баком»: как скромность мешает карьерному росту «Стоять на обочине с полным баком»: как скромность мешает карьерному росту

Как работает профессиональная видимость и можно ли превратить ее в стратегию

Forbes
Я работаю мамой Я работаю мамой

Валентина Красникова, мама 17 детей, о семье и хобби

Лиза
Исследование: духи разрушают защитное поле организма. К чему это может привести? Исследование: духи разрушают защитное поле организма. К чему это может привести?

Использование духов и лосьонов способно нарушить микробиом кожи человека

Inc.
Над всей Испанией безоблачное небо Над всей Испанией безоблачное небо

Как восемь гигаватт «погасили» электрическую сеть Пиренейского полуострова

Монокль
«В балете у меня часто бывают мучения» «В балете у меня часто бывают мучения»

Композитор Илья Демуцкий о музыке со словами и без и о работе по таблицам

Weekend
Открыть в приложении