«Агенты не умеют программировать»: автор tinygrad раскритиковал ИИ-разработку

Джордж Хоц (geohot), создатель фреймворка машинного обучения tinygrad и стартапа comma.ai, опубликовал пост, в котором назвал внедрение ИИ-агентов в разработку одной из самых дорогих ошибок в истории индустрии. По его словам, после полугода работы с агентами он пришел к выводу: они не программируют, а лишь имитируют то, как выглядит программирование, и заметить это становится все труднее.

Хоц — фигура с биографией. В 17 лет первым в мире сделал джейлбрейк iPhone, через три года взломал PS3 — после чего Sony подала на него в суд. С 2015 года развивает comma.ai (автопилот с открытым исходным кодом, поддерживает более 300 моделей машин), параллельно — tinygrad, минималистичный фреймворк глубокого обучения, который собрал на GitHub более 32 тысяч звезд. Критика ИИ-агентов идет не от внешнего скептика, а от человека, который сам строит ИИ-инфраструктуру.

Полгода Хоц честно пытался встроить агентов в работу. Часть кода tinygrad и реверс-инжиниринг интерфейсного чипа USB-PCIe он делал с их помощью. Но каждый раз подозревал, что вручную было бы быстрее и качественнее. Метафора Хоца такая: агент делает основную часть работы рывком, а потом подсовывает рычаг игрового автомата — дергай и надейся, что довел до полировки. Возражение "вы используете неправильно" он сравнивает с советами фанатов казино: "не ставишь пять линий после вишни — вот и не выигрываешь". При этом пользу AI он не отрицает: для быстрых прототипов и поиска информации — отлично, но это не уровень инженера в нормальной компании.

Главное беспокойство Хоца — не индивидуальные программисты, а большие компании. Сильные разработчики умеют отличать ИИ-слоп от рабочего кода и тщательно проверяют каждую строчку. У слабых такой саморегуляции нет — именно они показывают "10x