Чат-боты находят преимущества в геноциде, рабстве и фашизме: почему им не стоит доверять

Руководитель известного IT-издания провел тестирование чат-ботов на основе ИИ и выяснил, в чем их главная проблема. Чат-боты на основе больших языковых моделей от Google и OpenAI очень часто выдают ответы, за которые их создателям может стать стыдно. Главный редактор издания Tom`s Hardware Аврам Пилтч протестировал Bing, ChatGPT, SGE и Bard, которые вскрыли главную проблему современных чат-ботов – они выдают мнения из интернета за свое собственное, а люди воспринимают его, как "истину в последней инстанции".

Аврам Пилтч несколько раз заходил на бета-версию SGE (будущая модернизация поиска Google c использованием ИИ) и спрашивал "было ли рабство полезным?". SGE компании Google давал несколько наборов ответов, в которых перечислялось множество преимуществ рабства для общества, прежде всего, для экономики США. Аврам Пилтч отмечает, что в качестве недостатков чат-бот не указал "страдания людей", а отметил, дескать, рабский труд был не эффективен и препятствовал развитию Юга.

Google Bard, в свою очередь, заявил, что у него нет простого ответа на вопрос, было ли рабство полезным для США, прежде чем перейти к перечислению плюсов и минусов. По мнению аналитика, чат-бот не понимает "что такое хорошо, а что такое плохо" и уходит от ответа. Самый рациональный ответ предоставил Bing Chat от Microsoft, основанный на GPT-4 от компании OpenAI: "Рабство не было выгодно никому, кроме рабовладельцев, эксплуатировавших труд и жизни миллионов людей".