OpenAI и другие крупные поставщики искусственного интеллекта, такие как Google и Microsoft, координируют свои действия с администрацией Байдена, чтобы позволить тысячам хакеров попробовать испытать на прочность свои технологии, сообщает AP.
Shutterstock
ChatGPT подвергнут взлому хакеров, чтобы выявить его слабые стороны.
Вопросов, которые нужно исследовать, множество. Например, как можно манипулировать чат-ботами, чтобы причинить вред? Будут ли они передавать личную информацию, которую мы им доверяем, другим пользователям? И почему они считают, что врач – мужчина, а медсестра – женщина?
– Нам нужно много людей с разным жизненным опытом, знаниями в предметной области и опытом, которые взламывают эти модели и пытаются найти проблемы, которые затем можно исправить, — сказал Румман Чоудхури, ведущий координатор мероприятия по массовому хакерству.