Гендиректор Microsoft: не выдавайте ИИ-компаниям свои секреты

Генеральный директор Microsoft Сатья Наделла предостерёг компании, спешащие внедрить искусственный интеллект, от передачи разработчикам ИИ важных бизнес-данных.

Наделла называет эту проблему «парадоксом обратного обмена информацией». Компании платят за доступ к ИИ, но затем вынуждены «скармливать» системе свои конфиденциальные данные, сведения о внутренних процессах, исправления и оценки сотрудников, а также накопленный корпоративный опыт, чтобы сделать технологию полезной.

«По сути, вы платите за интеллект дважды: сначала деньгами, а затем тем, что имеет ещё большую ценность — уникальными знаниями, которые приходится раскрывать, чтобы этот интеллект приносил пользу», — пишет Наделла.

Он утверждает, что реальная опасность выходит за рамки простой загрузки конфиденциальной таблицы или внутреннего документа. Системы ИИ способны обучаться и на том, что он называет «информационным выхлопом»: запросах (промптах), особенностях использования инструментов, обратной связи, исправлениях, оценках и принятых решениях.

«Любое исправление трансформируется в корпоративный опыт. Это знания, которые конкурент никогда не смог бы купить; они утекают практически незаметно — крупица за крупицей, исправление за исправлением, оценка за оценкой», — отмечает топ-менеджер. 

«Потребляя интеллект, вы одновременно создаёте его. И то, что вы создаёте, должно принадлежать вам», — заключает он.

Между тем сама Microsoft стремится к тому, чтобы компании переносили свои файлы, рабочие процессы, данные сотрудников, системы идентификации и механизмы принятия решений на её платформы.

Даже когда Наделла утверждает, что компаниям следует создавать собственные системы оценки, сохранять контроль над «организационной памятью», формировать закрытые среды для обучения ИИ