OpenAI профінансувала дослідження «ШІ-моралі»
OpenAI фінансує наукові дослідження алгоритмів, здатних передбачати моральні судження людей. Про це пише TechCrunch з посиланням на подану в IRS заяву.
Стартап виділив грант дослідникам Університету Дьюка на проєкт під назвою «Дослідження ШІ-моралі».
Подробиць про роботу мало, а головний дослідник Волтер Сіннотт-Армстронг відмовився коментувати досягнення. Грант закінчується 2025 року.
Раніше Сіннотт-Армстронг та інша учасниця проєкту Яна Борг написали книжку про потенціал ШІ як «морального GPS», що допомагає людям ухвалювати більш обґрунтовані рішення.
Разом з іншими командами вони створили «морально орієнтований» алгоритм, що допомагає вирішувати, кому краще віддати донорські нирки. Також вони оцінили ситуації, коли люди вважали за краще б делегувати ШІ ухвалення рішення.
Мета фінансованої OpenAI роботи полягає в навчанні алгоритмів для «передбачень моральних суджень людини» в ситуаціях, що викликають конфлікти в медичній, правовій та діловій сферах.
Нагадаємо, стартап Сема Альтмана готується до запуску ШІ-агента під кодовою назвою «Оператор».
