Дуглас Крокфорд выступил с резкой критикой неправильного применения ИИ

1 декабря гуру JavaScript и создатель формата JSON Дуглас Крокфорд опубликовал в социальной сети LinkedIn пост, в котором раскритиковал неправильное применение искусственного интеллекта:

На протяжении последних двух лет Крокфорд много говорил и писал об ИИ, но все его высказывания имели более сдержанный тон. На фоне снижения интереса со стороны американских СМИ и пользователей социальных сетей к теме ИИ, вызванного завершившейся президентской гонкой в США, его публикация выглядит как гром среди ясного неба:

Есть вещи, которые раньше было трудно делать, но теперь их очень легко сделать с помощью ИИ, например, списывать в школе и притворяться, что выполняешь свою работу. Так что придется к этому приспосабливаться.

Системы были обучены на огромном количестве контента, не являющегося общественным достоянием, поэтому каждый акт генерации является актом творческого плагиата и потенциальным нарушением авторских прав, так что придется приспосабливаться и к этому.

Многое из того, на чем их обучали, было токсичным и неправильным. Я заметил, что генератор изображений от Microsoft¹ состоит как минимум из трех частей: первая часть сканирует текст запроса на наличие запрещенных материалов, таких как имена собственные, вторая часть генерирует изображения, а третья часть подвергает изображения цензуре. Он создает 4 изображения за раз, но в итоге вам может быть показано только 3, или 2, или 1, или вообще 0. Например, я делал запрос «жареный цыпленок и арбуз»² и постоянно получал 0 изображений. Я полагаю, что это происходило потому, что материал, который они генерировали, был жутко расистским из-за обучения на контенте из Всемирной паутины.

Моделям требуется много данных, но они уже использовали все, что может предложить мир. Очистка данных