Домашний робот Neo от 1X требует удалённых операторов в VR-гарнитурах Meta Quest 3 для выполнения бытовых задач, что вызывает вопросы о конфиденциальности и трудовых правах.
Работники, обучающие роботов, сообщают о травмах и низкой оплате труда, что напоминает эксплуатацию в сфере модерации контента для ИИ.
Машинный перевод публикации MIT
В январе Дженсен Хуанг из Nvidia, глава самой дорогой в мире компании, заявил, что мы вступаем в эру физического ИИ, когда искусственный интеллект выйдет за рамки языка и чат-ботов и превратится в физически способные машины. (Кстати, он говорил то же самое и годом ранее.)
Подкрепляемый новыми демонстрациями человекоподобных роботов, убирающих посуду или собирающих автомобили, подразумевает, что имитация человеческих конечностей с помощью роботизированных манипуляторов узкого назначения — это старый способ автоматизации. Новый способ заключается в воспроизведении того, как люди думают, учатся и адаптируются во время работы. Проблема в том, что отсутствие прозрачности в отношении человеческого труда, задействованного в обучении и управлении такими роботами, приводит к тому, что общественность не понимает, на что роботы способны на самом деле, и не видит странных новых форм работы, которые формируются вокруг них.
Рассмотрим, как в эпоху искусственного интеллекта роботы часто учатся у людей, демонстрирующих выполнение той или иной работы. Создание таких данных в больших масштабах теперь приводит к сценариям в духе «Черного зеркала» . Например, работник в Шанхае недавно провел неделю в очках виртуальной реальности и экзоскелете, открывая и закрывая дверцу микроволновой печи сотни раз в день, чтобы обучить робота, стоящего рядом с ним, сообщает Rest of World . В Северной Америке компания Figure, занимающаяся робототехникой, похоже, планирует нечто подобное: в сентябре она объявила о партнерстве с инвестиционной фирмой Brookfield, управляющей 100 000 жилых единиц, для сбора «огромных объемов» данных из реального мира «в различных условиях домохозяйств». (Компания Figure не ответила на вопросы об этом проекте.)
Подобно тому, как наши слова стали обучающими данными для больших языковых моделей, наши движения теперь, похоже, пойдут по тому же пути. За исключением того, что это будущее может поставить людей в еще худшее положение, и оно уже начинается. Робототехник Аарон Пратер рассказал мне о недавней работе с компанией по доставке, в которой работники носили датчики отслеживания движений при перемещении коробок; собранные данные будут использоваться для обучения роботов. Создание человекоподобных роботов, вероятно, потребует привлечения рабочих для сбора данных в огромных масштабах. «Это будет странно», — говорит Пратер. «В этом нет никаких сомнений».
Или рассмотрим дистанционное управление. Хотя конечная цель в робототехнике — это машина, способная самостоятельно выполнять задачу, компании, занимающиеся робототехникой, нанимают людей для дистанционного управления своими роботами. Neo , человекоподобный робот стоимостью 20 000 долларов от стартапа 1X, должен поступить в продажу в этом году, но основатель компании, Бернт Эйвинд Бёрних, недавно сказал мне, что он не придерживается какого-либо установленного уровня автономности. Если робот застрянет или если клиент захочет, чтобы он выполнил сложную задачу, оператор из штаб-квартиры компании в Пало-Альто, Калифорния, будет управлять им, используя камеры для глажки одежды или разгрузки посудомоечной машины.
В этом нет ничего inherently вредного — 1X получает согласие клиента перед переключением в режим дистанционного управления, — но конфиденциальность в том виде, в каком мы её знаем, не будет существовать в мире, где операторы дистанционного управления выполняют домашние дела с помощью роботов. И если домашние человекоподобные роботы не являются по-настоящему автономными, то такое устройство лучше понимать как форму арбитража заработной платы, которая воссоздает динамику работы по контракту, впервые позволяя выполнять физические задачи там, где рабочая сила дешевле всего.
Мы уже проходили через подобные ситуации. Проведение модерации контента на платформах социальных сетей с помощью «искусственного интеллекта» или сбор обучающих данных для компаний, занимающихся ИИ, часто требует от работников в странах с низким уровнем заработной платы просмотра тревожного контента. И несмотря на заявления о том, что ИИ вскоре будет обучаться на основе полученных данных и учиться самостоятельно, даже лучшие модели требуют огромного количества обратной связи от людей, чтобы работать должным образом.
Наличие человеческого капитала не означает, что ИИ — это всего лишь виртуальный продукт. Но когда он остается незаметным, общественность постоянно переоценивает реальные возможности машин.
Это отлично подходит для инвесторов и создает ажиотаж , но имеет последствия для всех. Например, когда Tesla рекламировала свое программное обеспечение для помощи водителю как «Автопилот», это завышало ожидания общественности относительно того, что система может безопасно делать — искажение, которое, как недавно установило жюри присяжных в Майами , способствовало аварии, в которой погибла 22-летняя женщина (Tesla была обязана выплатить 240 миллионов долларов в качестве компенсации ущерба).
То же самое будет справедливо и для человекоподобных роботов. Если Хуанг прав, и физический ИИ действительно появится на наших рабочих местах, домах и в общественных местах, то то, как мы описываем и анализируем такие технологии, имеет значение. Тем не менее, компании, занимающиеся робототехникой, остаются такими же непрозрачными в отношении обучения и дистанционного управления, как и компании, работающие в сфере ИИ, в отношении своих обучающих данных. Если это не изменится, мы рискуем принять скрытый человеческий труд за машинный интеллект — и увидеть гораздо большую автономию, чем существует на самом деле.
Источник
Официальный сайт MIT Technology Review, журнала, основанного Массачусетским технологическим институтом (MIT) в 1899 году.
Комментариев нет:
Отправить комментарий