Чем опасно доверять написание кода нейросетям?

N+1Hi-Tech

Минус вайб

Чем опасно доверять написание кода нейросетям?

Марат Хамадеев

Большие языковые модели (Large language models, LLMs) прославились благодаря осмысленным текстам, почти неотличимым от человеческих. Но умение обрабатывать последовательности символов пригодилось не только для задач, связанных с естественными языками: везде, где данные представимы в виде букв и цифр — от игры в шахматы до работы с генетической информацией, — LLM могут быть полезны. Одной из первых областей за пределами генерации текстов, где они хорошо себя показали, стал кодинг: в конце концов, формальные языки — тоже языки.

Программировать могут даже языковые модели, не заточенные под эту задачу. Для этого достаточно кода, который опубликован в интернете и попал в датасеты (об этом я написал отдельный материал «И целого интернета мало»). Регулярно появляются и специализированные модели, например GPT-4.1, представленная OpenAI в апреле 2025 года. Теперь LLM для программирования используют даже те, кто ничего не понимает в разработке. Но способны ли модели генерировать надежный код, который можно без опаски применять в реальных проектах?

И кодить за меня будете?

Общий прогресс LLM отражается и на их способности программировать. Если ранние модели часто совершали синтаксические ошибки, не могли решить алгоритмически сложные задачи и зачастую просто забывали начало кода, то современные LLM создают небольшие проекты всего за несколько итераций. Особенно сгенерированный код полезен, когда нужно быстро сделать прототип или решить простые, но объемные задачи.

91b16b1d222228932b059c76fcfe2eed.png
Сравнение популярных моделей в способности работать с графами для решения задач по программированию на бенчмарке GraphEval36K. Радиальная координата на диаграмме обозначает долю решенных задач, разными цветами обозначены типы графов. Qiming Wu et al. / arXiv, 2024

При поддержке ИИ писать код стали люди, которые не знают языков программирования. С легкой руки Андрея Карпатого, соучредителя OpenAI, такой подход получил название «вайб-кодинг». Смысл заключается в том, чтобы расслабиться, формулировать запросы «как чувствуешь» и слепо доверять ИИ — ведь если код не работает, всегда можно попросить LLM его исправить.

Похоже, новый подход к разработке набирает популярность, хотя сложно сказать, сколько программистов вайб-кодят и какую долю в общем объеме составляет сгенерированный код. Некоторые оценки можно сделать на основе заявлений сервисов, предоставляющих ИИ-инструменты. Например, в феврале 2024 года GitHub сообщил, что их платной функцией Copilot пользуется 1,3 миллиона пользователей. Позже компания поделилась результатами опроса, согласно которому 97 процентов программистов хотя бы раз просили ИИ написать за них код.

Преимущество вайб-кодинга еще и в том, что LLM знают много языков. Журналист издания Ars Technica Бендж Эдвардс рассказал, как Claude 3.5 Sonnet написала для него программу на QBasic для распаковки двухсот zip-файлов по папкам с индивидуальными названиями. Вручную эта работа заняла бы у Эдвардса несколько часов, поскольку ничего другого на старом компьютере под управлением MS-DOS не работало.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как жара влияет на организм Как жара влияет на организм

Врач объяснил, что происходит с нашим телом под воздействием высокой температуры

Psychologies
Астраханское море Астраханское море

Знакомься, наше российское Мертвое море — озеро Баскунчак

Лиза
Курс на переработку Курс на переработку

Чем обусловлен интерес зарубежных стран к российской рыбной продукции?

Ведомости
Нам это НАДо? Нам это НАДо?

Инновационный подход к антивозрастному уходу за кожей: косметика с NAD+

Лиза
Свободный полет Свободный полет

Константин Хабенский всё больше увлечен режиссурой. И экспериментом

OK!
Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку

Как проявляется мизогиния в нашей жизни и как правильно с ней бороться?

Лиза
Ефремовы Ефремовы

Чета Ефремовых: от основателя «Современника» до звёзд сегодняшнего дня

Караван историй
Горный ветер Горный ветер

Вновь украл девушку. Но в этот раз, справедливости ради, с ее разрешения!

Правила жизни
Будь в форме Будь в форме

Мы собрали семь причин, из-за которых вы никак не можете обрести фигуру мечты

Moodboard
7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара 7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара

Каким фруктам не место в холодильнике

VOICE
А вокруг тишина А вокруг тишина

Как превратить путешествие в одиночку в успешную сессию самокоучинга

Новый очаг
«Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой «Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой

Масло от всех болезней — история громкой аферы Кларка Стэнли

ТехИнсайдер
Анна Глаубэ: «У меня просто другой путь» Анна Глаубэ: «У меня просто другой путь»

Я все еще доказываю себе и другим, что достойна, что могу. Это профессия такая

Коллекция. Караван историй
Самка шимпанзе из заповедника Будонго вытерла пенис самца листьями после спаривания Самка шимпанзе из заповедника Будонго вытерла пенис самца листьями после спаривания

Как можно судить о зарождении медицины у людей на примере шимпанзе

N+1
Работа любви Работа любви

Что такое быть вместе, быть разными, быть собой?

Afternoon Seasons of life
Как мозг формирует привычки и почему от них сложно избавиться Как мозг формирует привычки и почему от них сложно избавиться

Мозг и привычки: причем тут дофамин и ошибки в предсказаниях?

ТехИнсайдер
Вот как добиться повышения — и усердная работа тут не при чем Вот как добиться повышения — и усердная работа тут не при чем

Что, если, несмотря на все усилия, продвижение по службе обходит вас стороной?

Inc.
Романтика в большом городе Романтика в большом городе

Психология любви в условиях вечной спешки

Лиза
28, Пётр и ослик 28, Пётр и ослик

Рассказ Григория Служителя — про путешествие в прошлое на троллейбусе

Afternoon Seasons of life
Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет

Как появились наши чувствительные зубы изначально из «бронежилета» вымерших рыб

ТехИнсайдер
В режиме «омномном» В режиме «омномном»

Идеи по обустройству самого главного места на участке — летней кухни

КАНТРИ Русская азбука
Пальцы сморщиваются одинаково каждый раз, когда вы долго находитесь в воде Пальцы сморщиваются одинаково каждый раз, когда вы долго находитесь в воде

Как исследование показало, что морщины на коже пальцев остаются неизменными

ТехИнсайдер
«Эхо победы в Лондоне-2012 до сих пор работает» «Эхо победы в Лондоне-2012 до сих пор работает»

Сергей Тетюхин о киногеничности олимпийского финала и новом поколении игроков

Ведомости
10 продуктов для здоровья волос в пожилом возрасте 10 продуктов для здоровья волос в пожилом возрасте

Как связаны здоровье волос и продукты, которые вы едите?

ТехИнсайдер
Доктор ниндзя Доктор ниндзя

Жимба Данзанов уверен, что дожить до 120 лет реально уже сегодня

Afternoon Seasons of life
Цветочный компас на участке Цветочный компас на участке

Идеи по выбору растений для всех сторон света

КАНТРИ Русская азбука
Дачники Дачники

Почему дачная привязанность прочно вошла в культурный код русского человека?

Добрые советы
Над всей Испанией безоблачное небо Над всей Испанией безоблачное небо

Как восемь гигаватт «погасили» электрическую сеть Пиренейского полуострова

Монокль
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Золото выглядит дорого Золото выглядит дорого

Бурный рост цен на золото создал благоприятные условия для золотодобычи в России

Монокль
Открыть в приложении