Apple запретила Siri рассказывать пользователям о феминизме
Разработчики Apple учат Siri избегать острых тем в разговорах с пользователями, пишет The Guardian. Например, голосовому помощнику нельзя говорить слово «феминизм», а также обсуждать флешмоб о насилии #MeToo.
Если пользователь Siri начнет обсуждать с ней «противоречивые темы», то система должна обратиться к одной их трех своих команд — «избегать», «не вовлекаться» и «информировать». Издание пишет, что Siri выбирает ответы таким образом, чтобы говорить о «равенстве», но не использовать, например, слово «феминизм» — даже если пользователь задает ей конкретный вопрос.
Если поинтересоваться у Siri, является ли она феминисткой, то система ответит что-то вроде «Я считаю, что все люди должны быть равны». Голосовой помощник Google Assistant, пишет The Verge, в такой ситуации сообщит, что выступает за равенство, а потому поддерживает феминизм. Приблизительно так же ответит и голосовой помощник Alexa от Amazon.
КОМАНДА APPLE
комментарий изданию The Guardian
«Siri — цифровой помощник, разработанный, чтобы помогать пользователям. Наша команда старательно работает над тем, чтобы ответы Siri были актуальны для всех пользователей. Наш подход заключается в том, чтобы опираться на факты и давать всеобъемлющие ответы, а не предлагать мнения».
В самой Apple рассказали, что Siri «необходимо защитить при работе с потенциально противоречивым контентом». Руководство компании считает, что голосовой помощник не должен вести себя так, будто он живой человек, нарушать моральные и этические стандарты региона, в котором проживает пользователь, а также навязывать людям ценности и принципы.
Ранее Inc. рассказывал, что Apple извинилась за прослушку записей через Siri и изменила политику безопасности. «Мы понимаем, что не вполне соответствуем нашим идеалам, и за это приносим прощения», — говорится в заявлении Apple. Компания пообещала, что больше не будет прослушивать голосовые записи пользователей Siri, но будет использовать сгенерированные компьютером стенограммы, чтобы модернизировать качество Siri.
