Эффективный альтруизм

Эффективный альтруизм — философия и социальное движение, использующие факты и доказательства для определения наиболее эффективных способов сделать мир лучше. Эффективные альтруисты стремятся учесть все возможные причины и возможности и выбрать те пути решения, которые будут иметь наибольшее положительное влияние[1]. Этот широкий, научный подход отличает эффективный альтруизм от традиционного альтруизма или благотворительности. Хотя существенная часть эффективных альтруистов фокусируется на благотворительности, философия эффективного альтруизма имеет гораздо более широкое применение, например, приоритизация научных проектов, кампаний и политических инициатив, от которых ожидается наибольшее количество спасенных и улучшенных жизней[2]. К данному движению относятся такие известные люди, как философ Питер Сингер[3], сооснователь Facebook Дастин Московиц[4], философ из Оксфорда Вильям МакЭскилл[англ.][5] и исследователь Тоби Орд[англ.][6]. Движение состоит из многих подразделений[7] и организаций[8] по всему миру.

Философия

править

Эффективный альтруизм берёт начало в личном обязательстве человека совершать перемены в мире, быть достаточно целеустремленным, чтобы оставаться вовлечённым в течение длительного времени, и фокусироваться на наиболее эффективных способах совершать перемены. Затем труд или ресурсы, которые выделяет человек, направляются на те активности, которые приводят к желаемым изменениям. Эффективный альтруизм отличается от других типов филантропии в том, что в конечном итоге стремится достичь максимального прироста социального блага. Обязательные пожертвования, такие, как Закят, ответная помощь, пожертвования, влияющие на жизнь конкретного человека и пожертвования по рекомендациям знаменитостей могут не иметь большого влияния, так как акцент таких пожертвований не имеет осознанной направленности на социальные результаты. Эффективный альтруизм фокусируется на результатах с каждого пожертвования, а также на других методах достижения положительного результата, таких, как карьера и волонтерская работа.

Приоритизация целей

править

Несмотря на растущую нацеленность благотворительных организаций на повышение эффективности и получению наглядных результатов, обычно их деятельность направлена на одну конкретную цель, такую, как обучение или климатические изменения[9]. Эффективный альтруизм стремится сравнить относительное влияние разных целей.

Эффективные альтруисты пытаются выбрать наиболее приоритетные цели, основываясь на том, какие виды деятельности в каждой области могут дать наиболее значимый общий результат, такой как улучшение человеческого или животного благосостояния. Затем они фокусируют своё внимание на работах в высокоприоритетных направлениях. Некоторые организации осуществляют исследования по приоритизации целей[10][11].

Некоторые приоритеты эффективных альтруистов включают: бедность в развивающихся странах, страдания животных на мясокомбинатах и долгосрочные перспективы развития человечества.

Эффективность вложений

править

По возможности, эффективные альтруисты стараются выбрать те благотворительные акции, которые получают наибольшее количество пользы на единицу потраченных средств. Например, они выбирают медицинские организации по количеству спасённых жизней на единицу валюты, качественно-скорректированные годы жизни (QALY), полученные на единицу валюты или инвалидно-скорректированные годы жизни (DALY), предотвращённые на единицу валюты. DALY является ключевой метрикой, используемой Всемирной Организацией Здравоохранения ООН в таких публикациях, как Глобальное бремя болезней[12][13]. Эта метрика бремени болезней выражается как количество лет жизни, потерянных из-за болезней, инвалидности или ранней смерти.

Основным методом измерения влияния является рандомизированное контролируемое исследование (РКИ). РКИ считается надёжной формой научного подтверждения в сфере здравоохранения, так как РКИ уменьшает влияние паразитных причин и искажений. Некоторые виды медицинской деятельности, такие, как вакцинация, уже подтверждены высококачественными медицинскими исследованиями, поэтому доказательство эффективности для благотворительных организаций, направленных на такие виды деятельности, облегчается[14]. Другие научные группы ведут РКИ для других видов деятельности, например: Poverty Action Lab[15] и Innovations for Poverty Action[16].

Эффективные пожертвования являются важным компонентом эффективного альтруизма потому, что одни виды благотворительности гораздо более эффективны, чем другие[17]. Некоторые благотворительные организации просто не добиваются поставленных целей. Для других благотворительных организаций, которые достигают успеха, GiveWell приводит статистику, что некоторые достигают гораздо большего успеха при меньших денежных вложениях[18]. Улучшение качества жизни и здоровья в высокоэффективных проектах может быть до 100 раз эффективнее, чем в проектах с низкой эффективностью[19].

Уменьшение приоритета организационных расходов

править

Традиционная оценка благотворительных организаций часто основывалась на предпочтении организаций с минимальными организационными затратами и высоким процентом средств, расходуемых непосредственно на проекты. Однако организации эффективных альтруистов отказываются от этого стандарта как от упрощённого и имеющего изъяны[20][21]. Дэн Паллотта[22] приводит аргумент, что благотворительные организации должны тратить больше на организацию сбора средств, если в дальнейшем это увеличит фонд, который будет направлен непосредственно на благотворительные акции. Дополнительно, исследование Дина Карлана «обнаружило, что наиболее эффективные благотворительные организации тратят большую часть своего бюджета на административные нужды, чем их менее эффективные конкуренты»[23], по-видимому из-за того, что административные затраты могут включать в себя анализ эффективности проводимых акций. В таком случае, дополнительные административные затраты приводят к тому, что ресурсы направляются на наиболее эффективные акции.

Пределы развития

править

Организация по оценке эффективности благотворительностей GiveWell подчёркивает важность оценки возможностей благотворительной организации по расширению в случае увеличения фондов[24]. В общем случае эффективные альтруисты придерживаются точки зрения, что выбор целей для поддержки должен быть направлен в первую очередь на те организации, которые смогут использовать эти средства на развитие, чем те, которые уже достигли пределов развития.

Беспристрастность

править

Эффективные альтруисты отрицают взгляд, что некоторые жизни по сути более ценны, чем другие. Например, они считают, что человек в развивающейся стране имеет одинаковую ценность жизни с человеком в их собственном социуме. Как отмечает Питер Сингер:

«Нет разницы, если человек, которого я могу спасти, это соседский ребёнок в 10 метрах от меня или бенгалец, чьего имени я никогда не узнаю, в 10000 километров от меня. […] С точки зрения морали мы должны смотреть дальше интересов нашего собственного общества. Прежде […] это могло быть невозможным, но это вполне возможно сейчас. С точки зрения морали, предотвращение голода среди миллионов людей вне нашего социума должно рассматриваться как минимум как защита правовых норм внутри нашего сообщества»[25].

В дополнение, многие эффективные альтруисты считают, что жизни будущих поколений имеют одинаковую ценность с жизнями ныне живущих, поэтому они направляют свою деятельность на уменьшение экзистенциальных рисков для человечества. Другие верят, что интересы животных должны также учитываться наравне с жизнями людей и работают на уменьшением страданий животных, например, на мясокомбинатах[26].

Сравнительное богатство

править

Многие эффективные альтруисты верят, что, как формулирует Питер Сингер, «если в наших силах предотвратить что-то плохое, не принося в жертву что-то со сравнимой моральной ценностью, мы обязаны, с точки зрения морали, сделать это»[25]. Любой, чей доход по паритету покупательной способности больше $52000 в год, богаче 99 % населения Земли[27]. По этой причине многие эффективные альтруисты жертвуют существенную часть их дохода на высокоэффективные виды благотворительности, так как это не вынуждает их отказаться от важных приобретений.

Контрафактивные обоснования

править

Эффективные альтруисты утверждают, что контрафактивные (синоним: контрфактические, counterfactual) обоснования (то есть обоснования посредством обращения к выдуманным сценариям о возможных последствиях и обращения к выдуманным сценариям о том, что было бы, если бы нечто было иным, чем есть; остаётся спорным вопрос о том, в каком смысле и в какой мере с помощью этих сценариев возможно что-то обосновать; вопрос этот дискутируется в аналитической философии и в логике контрфактических суждений, в эпистемологии и иногда возникает также и в других отраслях) важны для определения вида деятельности, в котором действия человека принесут максимальную пользу. Многие люди предполагают, что лучшим способом помочь людям являются прямые методы, такие как волонтёрский труд в благотворительных организациях или предоставление социальных услуг[28][29]. Но так как благотворительные организации и организации социальной взаимопомощи обычно могут найти людей, желающих работать для них, эффективные альтруисты сравнивают возможную пользу от чьей-то работы с возможной пользой от работы следующего предполагаемого кандидата на эту должность. Следуя этой логике, влияние от выбора традиционной альтруистической карьеры может быть меньше, чем кажется[30].

Стратегия заработка для пожертвований была предложена как возможная стратегия для эффективных альтруистов. Эта стратегия подразумевает выбор высокооплачиваемой работы с явной целью жертвовать большие суммы денег на благотворительность. Бенджамин Тодд и Вильям МакЭскилл приводят аргумент, что влияние из-за возможных неэтичных действий человека в высокодоходных областях будет небольшим, так как кто-то ещё в любом случае совершит их, в то время как влияние от пожертвований будет велико[31][32].

Пример

править

Стоимость собаки-поводыря для слепого составляет $42000[33]. Как альтернатива, стоимость проведения операции для лечения трихиаза (последней стадии трахомы, приводящей к слепоте), стоит менее $40 в развивающихся странах[34]. Эта операция успешно восстанавливает зрение в 80 % случаев. Таким образом, зрение может быть восстановлено для 840 человек за счёт стоимости одной собаки-поводыря, при этом собака-поводырь не является полноценным восстановлением зрения[35].

Деятельность

править

Выбор карьеры

править

От выбора карьерного пути сильно зависит то, сколько пользы человек принесёт миру — напрямую (оказывая профессиональные услуги) и не напрямую (тратя заработанные деньги). Существует англоязычный сайт 80000 Hours, помогающий людям с эффективно-альтруистическими целями советами о выборе карьеры, которая позволит им принести максимальную пользу миру. 80000 Hours считают, что профессию нужно выбирать, учитывая как положительное воздействие на мир прямо сейчас (включая деньги, которые можно жертвовать), так и развитие себя как специалиста, приобретение связей, улучшение резюме, потому что это даст больше возможностей потом[36].

Денежные пожертвования

править

В первую очередь эффективный альтруизм — это жертвование денег тем образом, который принесёт больше всего пользы. Сюда включаются два вопроса: куда жертвовать деньги и сколько жертвовать. Мета-благотворительная организация GiveWell занимается вопросом куда жертвовать, публикуя свои исследования о том, куда лучше полезнее всего делать пожертвования. Сообщество Giving What We Can берет со своих участников клятву жертвовать 10 % дохода, а также у них есть список рекомендуемых благотворительных организаций.

Многие эффективные альтруисты жертвуют значительно больше денег, чем принято в обществе. Некоторые из них считают своим моральным долгом облегчать страдания других с помощью пожертвований, если эти пожертвования не принесут сравнимого уровня страданий самому себе[37]. На сайте Giving What We Can можно, введя доход своей семьи, страну и количество её членов, рассчитать, сколько процентов населения земли живут богаче вас. Так как живя в более-менее развитых странах, можно зарабатывать, даже делая поправку на уровень жизни, во много раз больше, чем в самых бедных странах, некоторые эффективные альтруисты стараются жить скромно, чтобы у них была возможность жертвовать больше денег. Например, Джефф Кауфман, Джулия Вайз, Питер Сингер жертвуют половину своего дохода[38][39]. На сайте Effective Altruism Hub[39] многие люди отмечают, сколько они собираются жертвовать и сколько они уже пожертвовали, чтобы это вдохновляло других.

Приоритеты

править

Принципы эффективного альтруизма советуют помогать в тех областях, где ваша помощь принесёт больше всего пользы[40][41]. На практике люди из движения эффективного альтруизма считают наиболее приоритетными следующие направления деятельности[1][40][42]:

  1. Помощь бедным
  2. Благополучие животных
  3. Относительно далёкое будущее, включая риски глобальных катастроф
  4. Метаэффективный альтруизм

Бо́льшая часть этих приоритетных направлений помогает одной из следующих трех групп: (1) живущие сейчас люди, (2) животные, (3) люди, которые будут жить в будущем[43].

Помощь бедным

править

Многие из ранних и самых значимых организаций, связанных с эффективным альтруизмом, занимались или занимаются именно этим направлением. GiveWell — организация, оценивающая эффективность различных благотворительных организаций, считает, что наибольшую пользу единица денег приносит при помощи бедным и борьбе с болезнями в развивающихся странах[44], и лучшие рекомендуемые ими благотворительные организации занимаются именно этим: Against Malaria Foundation, Schistosomiasis Control Initiative, Deworm the World Initiative, GiveDirectly. Такие организации как Giving What We Can и The Life You Can Save тоже занимаются в основном мировой бедностью. Питер Сингер в своей книге The Life You Can Save, от которой произошло название организации, заявляет, что мы морально обязаны жертвовать деньги из-за того, насколько жуткая бедность существует посреди нас.

В то время как большая часть движения изначально была сфокусирована на прямых стратегиях помощи бедным, таких как прямые переводы денег, медицинская помощь, микропереводы и микрокредиты, кроме этого рассматривались и стратегии более системные и более масштабные — социальные, экономические и политические реформы, которые помогут решить проблему экстремальной бедности[42][45].

Благосостояние животных

править

Многие эффективные альтруисты считают, что снижение количества страданий животных — стоящая цель, и что в текущих условиях есть недорогие способы её достижения. Основная организация из этой области, связанная с эффективным альтруизмом, это Animal Charity Evaluators (ACE, ранее называлась Effective Animal Activism). Она занимается оцениванием и сравнением различных благотворительностей, занимающихся благосостоянием животных[42].

Отношение разных людей из движения эффективного альтруизма к благосостоянию животных очень разное. Многие из них против того, что делают с животными на животноводческих фермах. Многие способствуют распространению вегетарианства и веганства. Некоторые кроме этого беспокоятся о страдании диких животных, даже беспозвоночных, например насекомых[46]. С другой стороны многие эффективные альтруисты совсем не беспокоятся о благосостоянии животных, или же они считают это тоже важной целью, но не считают, что вегетарианство и веганство действительно важны[47][48]. Некоторые эффективные альтруисты поддерживают сострадательное управление природой с целью предотвратить или уменьшить количество страданий живущих на свободе животных[49][50].

Далекое будущее и риски глобальных катастроф

править

Некоторые эффективные альтруисты считают, что далёкое будущее куда важнее настоящего, и что значение любой осмысленной метрики (богатство, потенциальное количество страдания, потенциальное количество счастья и т. д.), просуммированное для будущих поколений, много превосходит это значение для людей, живущих сейчас. Этот аргумент освещается в работах двух философов, тесно связанных с движением эффективного альтруизма[1][42]:

  • Ник Бостром писал о том, что человечество в лице будущих поколений понесёт «астрономические потери» (astronomical waste) из-за задержек и неудач в технологическом развитии сегодня[51].
  • Философ Ник Бекстед в своей диссертации подчёркивает ошеломляющую важность далёкого будущего и соответственно действий, которые мы можем сделать в настоящем, способных повлиять на траекторию будущего[52].

Кроме того, подчеркивается важность рассмотрения и изучения экзистенциальных рисков, связанных с нанотехнологиями, биотехнологиями, сильным искусственным интеллектом и глобальным потеплением. Бостром пишет[53]:

Даже навозная муха рассматривается в научных работах больше, чем экзистенциальные риски.

Есть несколько организаций, активно изучающих экзистенциальные риски и занимающихся их популяризацией, которые связаны с движением эффективного альтруизма: Future of Humanity Institute (Институт будущего человечества), Center for the Study of Existential Risk (Центр изучения экзистенциальных рисков). Кроме них, существует организация Machine Intelligence Research Institute (Институт исследований искусственного интеллекта), задача которой — добиться, чтобы дружественный искусственный интеллект появился раньше, чем недружественный[42].

Метаэффективный альтруизм

править

Некоторые эффективные альтруисты намереваются добиться больших изменений путём увеличения и улучшения сообщества[54]. Многие из них занимаются привлечением новых людей в сообщество, увеличением эффективности организаций эффективного альтруизма, а также исследованием того, на какие сферы деятельности разумнее всего тратить силы и прочие ресурсы.

См. также

править

Примечания

править
  1. 1 2 3 Matthews, Dylan You have $8 billion. You want to do as much good as possible. What do you do? Vox (24 апреля 2015). Дата обращения: 27 апреля 2015. Архивировано 13 мая 2020 года.
  2. The Global Priorities Project | Prioritisation and policy research. Дата обращения: 9 марта 2016. Архивировано из оригинала 31 июля 2016 года.
  3. The why and how of effective altruism: Peter Singer’s talk visualized | TED Blog. Дата обращения: 9 марта 2016. Архивировано 18 января 2015 года.
  4. Cari Tuna and Dustin Moskovitz: Young Silicon Valley billionaires pioneer new approach to philanthropy — The Washington Post. Дата обращения: 1 октября 2017. Архивировано 25 апреля 2019 года.
  5. The Most Efficient Way to Save a Life — The Atlantic. Дата обращения: 1 октября 2017. Архивировано 20 августа 2019 года.
  6. Peter Singer: "The Most Good You Can Do" | Talks at Google (англ.). YouTube (22 апреля 2015). Дата обращения: 7 января 2019. Архивировано 2 июня 2019 года.
  7. Effective Altruist Groups. Effective Altruism Forum. Дата обращения: 2 ноября 2022. Архивировано 2 ноября 2022 года.
  8. Organizations. Effective Altruism Forum. Дата обращения: 2 ноября 2022. Архивировано 2 ноября 2022 года.
  9. Karnofsky, Holden Strategic Cause Selection. The GiveWell Blog. GiveWell. Дата обращения: 22 июня 2013. Архивировано 23 июля 2015 года.
  10. Causes. 80,000 Hours. Centre for Effective Altruism. Дата обращения: 22 июня 2013. Архивировано 6 июня 2013 года.
  11. GiveWell Labs Overview. GiveWell. Дата обращения: 10 марта 2016. Архивировано 10 мая 2013 года.
  12. Institute for Health Metrics and Evaluation, «Global Burden of Disease Study 2010» Архивная копия от 21 ноября 2014 на Wayback Machine, The Lancet, December 14, 2012
  13. Global Health Estimates (GHE) (англ.). ВОЗ. Дата обращения: 7 января 2019. Архивировано 21 мая 2020 года.
  14. GiveWell. Дата обращения: 10 марта 2016. Архивировано 14 марта 2016 года.
  15. Poverty Action Lab. Дата обращения: 24 июня 2011. Архивировано 9 июля 2011 года.
  16. Innovations for Poverty Action. Дата обращения: 24 июня 2011. Архивировано 23 июня 2011 года.
  17. Your dollar goes further when you fund the right program. GiveWell. Дата обращения: 10 марта 2016. Архивировано 30 августа 2019 года.
  18. Your Dollar Goes Further Overseas. GiveWell. Дата обращения: 10 марта 2016. Архивировано 31 октября 2019 года.
  19. Learnvest, «Why Your Charitable Donations Probably Aren’t Doing Much Good» Архивная копия от 25 августа 2017 на Wayback Machine, Forbes, December 14, 2012
  20. Hoskin, Ben Problems with "Overhead Costs" as a metric. Giving What We Can. Дата обращения: 9 августа 2015. Архивировано из оригинала 3 марта 2016 года.
  21. Karnofsky, Holden The worst way to pick a charity. Givewell. Дата обращения: 9 августа 2015. Архивировано 5 июля 2015 года.
  22. Dan Pallotta: The way we think about charity is dead wrong | TED Talk | TED.com. Дата обращения: 10 марта 2016. Архивировано из оригинала 23 февраля 2014 года.
  23. Book Review: It Ain’t What you Give It’s the Way you Give it | Giving What We Can. Дата обращения: 10 марта 2016. Архивировано из оригинала 5 марта 2016 года.
  24. Room for More funding. GiveWell. Дата обращения: 10 марта 2016. Архивировано 23 апреля 2016 года.
  25. 1 2 Famine, Affluence, and Morality (PDF) 231 (1972). Дата обращения: 23 мая 2011. Архивировано 6 ноября 2015 года.
  26. Animal Charity Evaluators. Дата обращения: 10 марта 2016. Архивировано 11 марта 2016 года.
  27. Milanovic. The Haves and the Have-nots (неопр.). — 2011. — ISBN 9780465019748.
  28. Rosato, Donna; Wong, Grace (2011-11). "Best jobs for saving the world". CNN. Архивировано 13 октября 2011. Дата обращения: 28 февраля 2013.
  29. Hosler, Aimee 10 "helping" professions and how to train for them. Schools.com (14 июня 2011). Дата обращения: 28 февраля 2013. Архивировано из оригинала 15 февраля 2017 года.
  30. Todd, Benjamin J. Just What Is 'Making a Difference'? - Counterfactuals and Career Choice. 80,000 Hours. Centre for Effective Altruism. Дата обращения: 17 июля 2013. Архивировано 6 августа 2013 года.
  31. Todd, Benjamin. Which ethical careers make a difference? (Master's thesis). Архивировано 16 марта 2016. Дата обращения: 10 марта 2016.
  32. William MacAskill (2013). "Replaceability, Career Choice, and Making a Difference". Ethical Theory and Moral Practice.
  33. Guide Dogs of America. Дата обращения: 10 марта 2016. Архивировано из оригинала 8 августа 2016 года.
  34. Helen Keller International
  35. Tina Rosenberg, «Putting Charities to the Test» Архивная копия от 5 сентября 2015 на Wayback Machine, The New York Times, December 5, 2012
  36. Benjamin Todd. How to assess the impact of a career (англ.). 80,000 Hours (25 июля 2013). Дата обращения: 10 мая 2016. Архивировано 27 июня 2016 года.
  37. Сингер, Питер. Famine, Affluence, and Morality (англ.). Philosophy and Public Affairs (1972). Дата обращения: 10 мая 2016. Архивировано 6 ноября 2015 года.
  38. Julia Wise. What's it like to give half? (англ.). Giving Gladly (2 июня 2013). Дата обращения: 10 мая 2016. Архивировано 22 мая 2016 года.
  39. 1 2 EA Donation Registry (англ.). Effective Altruism Hub. Дата обращения: 10 мая 2016. Архивировано из оригинала 25 марта 2016 года.
  40. 1 2 Will Crouch. What is Effective Altruism? (англ.). University of Oxford (20 мая 2013). Дата обращения: 13 мая 2016. Архивировано 3 октября 2015 года.
  41. Helen Toner. Effective Altruism is a Question (not an ideology) (англ.). Effective Altruism Forum (16 октября 2014). Дата обращения: 13 мая 2016. Архивировано 30 мая 2016 года.
  42. 1 2 3 4 5 Luke Muehlhauser. Four focus areas of effective altruism (англ.). Effective Altruism Forum (8 июля 2013). Дата обращения: 13 мая 2016. Архивировано 20 мая 2016 года.
  43. Michelle Hutchinson. Why do effective altruists support the causes we do? (англ.). Effective Altruism Forum (30 декабря 2015). Дата обращения: 13 мая 2016. Архивировано 20 мая 2016 года.
  44. Your dollar goes further overseas (англ.). GiveWell. Дата обращения: 13 мая 2016. Архивировано 31 октября 2019 года.
  45. Robert Wiblin. Effective altruists love systemic change (англ.). 80,000 Hours (8 июля 2015). Дата обращения: 13 мая 2016. Архивировано 27 июня 2016 года.
  46. Wild Animal Suffering (англ.). Animal Charity Evaluators. Дата обращения: 25 мая 2016. Архивировано 13 мая 2016 года.
  47. Katja Grace. When should an Effective Altruist be vegetarian? (англ.). Effective Altruism Forum (23 ноября 2014). Дата обращения: 25 мая 2016. Архивировано 3 мая 2016 года.
  48. Benjamin Rose Hoffman. Is Veganism Correct? (англ.). Дата обращения: 26 мая 2016. Архивировано 6 апреля 2016 года.
  49. David Pearce. Antispecism & Compassionate Stewardship (англ.). YouTube. Дата обращения: 26 мая 2016. Архивировано 9 апреля 2014 года.
  50. David Pearce. The Antispeciesist Revolution (англ.). Institute for Ethics and Emerging Technologies (2013). Дата обращения: 26 мая 2016. Архивировано 7 июня 2016 года.
  51. Бостром, Ник. Astronomical Waste: The Opportunity Cost of Delayed Technological Development (англ.) (2003). Дата обращения: 5 июня 2016. Архивировано 19 октября 2016 года.
  52. Beckstead, Nick. On the Overwhelming Importance of Shaping the Far Future (англ.). Department of Philosophy, Rutgers University (2013). Дата обращения: 5 июня 2016. Архивировано 8 июня 2016 года.
  53. Бостром, Ник. Existential Risks - Analyzing Human Extinction Scenarios and Related Hazards (англ.). Оксфордский университет, Факультет философии (март 2002). Дата обращения: 5 июня 2016. Архивировано 30 апреля 2019 года.
  54. Grace, Katja. Conversation with Paul Christiano on Cause Prioritization Research (англ.). 80,000 Hours (20 августа 2014). Дата обращения: 5 июня 2016. Архивировано 27 июня 2016 года.