Безопасность роботов хотят проверять на цифровых людях — и это разумнее, чем ждать встречи с настоящими. 🤖
Именно этим занимается Safeworld: компания строит цифровых людей, чтобы убедиться, что роботы с генеративным ИИ не причинят вреда реальным людям. Подробнее о подходе Safeworld — пока это скорее попытка создать слой проверки между разработкой робота и его контактом с человеком.
Идея понятна: цифровой человек становится своеобразным манекеном для краш-тестов. На нём можно заранее искать опасные сценарии, не подвергая риску людей. Но важна оговорка: наличие цифровых моделей само по себе ещё не доказывает безопасность робота. Нужно показать, насколько хорошо такая проверка отражает поведение реальных людей и реальные ситуации.
Поэтому я бы смотрел не на эффектность «цифровых людей», а на доказательства их пользы. Safeworld предстоит убедить не только роботов, но и людей — что виртуальная проверка действительно снижает риск для настоящих.
Источник: Can Safeworld convince people that gen AI robots won’t hurt them?
Именно этим занимается Safeworld: компания строит цифровых людей, чтобы убедиться, что роботы с генеративным ИИ не причинят вреда реальным людям. Подробнее о подходе Safeworld — пока это скорее попытка создать слой проверки между разработкой робота и его контактом с человеком.
Идея понятна: цифровой человек становится своеобразным манекеном для краш-тестов. На нём можно заранее искать опасные сценарии, не подвергая риску людей. Но важна оговорка: наличие цифровых моделей само по себе ещё не доказывает безопасность робота. Нужно показать, насколько хорошо такая проверка отражает поведение реальных людей и реальные ситуации.
Поэтому я бы смотрел не на эффектность «цифровых людей», а на доказательства их пользы. Safeworld предстоит убедить не только роботов, но и людей — что виртуальная проверка действительно снижает риск для настоящих.
Источник: Can Safeworld convince people that gen AI robots won’t hurt them?