Эксперты раскритиковали идею приостановить ИИ-исследования

Ряд экспертов в области ИИ раскритиковали авторов письма Института будущего жизни, призывающих приостановить разработку больших языковых моделей на шесть месяцев.

По словам оппозиции, инициатива является «хайпом вокруг ИИ» и искажает академические статьи некоторых ученых.

Авторы письма в качестве аргумента в пользу приостановки исследований процитировали статью Тимнит Гебру — бывшей исследовательницы Google. Компания уволила ее после того, как ученая раскритиковала большие языковые модели в своей научной работе.

Однако Гебру утверждает, что авторы письма исказили статью. По ее словам, работа, наоборот, предостерегает от завышенных заявлений об ИИ.

«В основном они заявляют противоположное тому, что мы говорим, и цитируют нашу статью», — написала ученая.

that one of the main points we make in the paper is that one of the biggest harms of large language models, is caused by CLAIMING that LLMs have "human-competitive intelligence." They basically say the opposite of what we say and cite our paper?— @[email protected] on Mastodon (@timnitGebru) March 30, 2023 Соавтор работы Эмили Бендер сказала, что письмо — сплошной «бардак» и пропитано «ажиотажем вокруг ИИ».

По ее словам, риски технологии никогда не были связаны с ее «чрезмерной силой». Скорее ученые предостерегали от «концентрации власти в руках людей, способных воспроизводить системы угнетения, с ущербом для информационной экосистемы».

Instead: They're about concentration of power in the hands of people, about reproducing systems of oppression, about damage to the information ecosystem, and about damage to the natural ecosystem (through profligate use of energy resources).>>— @[email protected] on Mastodon (@emilymbender) March 29, 2023