Элиезер Шломо Юдковски бол АНУ-ын хиймэл оюун ухааны мэргэжилтэн бөгөөд технологийн өвөрмөц байдлын асуудлыг судалж, Найрсаг хиймэл оюун ухаан бий болгохыг дэмждэг. Тэрээр танин мэдэхүйн шинжлэх ухаан, оновчтой холбоотой зарим сэдвийг дүрслэн харуулсан хэд хэдэн шинжлэх ухааны уран зөгнөлийн зохиогч юм.
Элиезер Юдковски: намтар
Элиезер Шломо Юдковский бол орчин үеийн Америкийн хамгийн идэвхтэй рационалистуудын нэг, компьютер судлаач, "найрсаг хиймэл оюун ухаан" -ын санааг дэлгэрүүлэгч юм.
1979 оны 9-р сарын 11-нд төрсөн. Түүний номыг хэвлэн гаргадаг төрийн бус судалгааны байгууллага болох Машины Тагнуулын Судалгааны Хүрээлэнгийн үүсгэн байгуулагч, судлаач. Элиезер Юдковски нь 2010-2015 онуудад интернетэд хэсэгчлэн хэвлэгдсэн "Харри Поттер ба рационализмын аргууд" хэмээх гүн ухааны роман зохиогч юм. Үүнд Харри Оксфордын эрдэмтний гэр бүлд өсч, Хогвартст аялахаасаа өмнө оновчтой байдлын аргуудыг түүнээс сурч мэджээ.
Бидний мэдэж байгаагаар тэрээр "таамаглалын реалистууд" -ын тойрогтой ямар ч холбоогүй юм. Түүний нэрийг Робин Хансонтой холбоотойгоор олонтаа дурдагддаг (хэдэн жилийн турш 2006 оноос 2009 он хүртэл) тэд Оксфордын Хүн төрөлхтний ирээдүйн ирээдүйн хүрээлэнгээс санхүүжүүлсэн "Өрөөсгөл ойлголтыг даван туулах" блогын хоёр гол зохиогч байжээ.
Заримдаа Рэймонд Курцвейлтэй холбогдуулан Юдковскийн нэрийг сонсох боломжтой байдаг. Тэрээр тахик реалистуудын бараг бүх уншигчдын харьяалагддаг хүмүүнлэгийн олон нийтийн дунд техно-геик нийгэмлэгийн философийн төлөөлөгч юм. Тэрбээр олон удаа томъёо, хүснэгт ашиглан ил гаргадаг логик-математик хэл, магадлалын болон статистикийн дүгнэлтийг эргэж хардаг тул гайхах зүйл алга.
Шинжлэх ухааны сонирхол
Юдковски бол Хиймэл Оюун ухааны Singularity хүрээлэнгийн (SIAI) хамтран үүсгэн байгуулагч бөгөөд хамт ажилладаг. Тэрээр хүрээлэнгийн хөгжилд маш их хувь нэмэр оруулсан. Тэрбээр "Найрсаг хиймэл оюун ухааныг бий болгох" (2001), "Ерөнхий тагнуулын зохион байгуулалтын түвшин" (2002), "Уялдаатай экстраполяцлагдсан хүсэл эрмэлзэл" 2004), Цаг хугацаагүй шийдвэрийн онол (2010) гэсэн өгүүллүүдийн зохиогч юм. Түүний хамгийн сүүлийн үеийн эрдэм шинжилгээний нийтлэл нь Ник Бостромын редакторласан "Дэлхийн гамшгийн эрсдлүүд" (2008) -ийн хоёр өгүүлэл, тухайлбал "Хиймэл оюун ухаан нь дэлхийн эрсдлийн эерэг ба сөрөг хүчин зүйл мөн" ба "Дэлхийн эрсдлийг үнэлэхэд танин мэдэхүйн хэвийх утгатай" гэсэн хоёр өгүүлэл юм. Юдковский их сургуульд сураагүй бөгөөд хиймэл оюун ухааны чиглэлээр албан ёсны боловсролгүй автодидакт юм.
Юдковски нь өөрийгөө ойлгох, өөрийгөө өөрчлөх, рекурсив хэлбэрээр өөрийгөө хөгжүүлэх чадвартай (хиймэл оюун ухааны хийц), тогтвортой, эерэг сэдэл бүхий хиймэл оюун ухааны бүтцийг судалдаг (Friendly хиймэл оюун ухаан). Судалгааны ажлаас гадна Юдковски олон тооны уншигчдад хүртээмжтэй, академик бус хэлээр ярьдаг нарийн төвөгтэй загваруудын тайлбарыг гаргадаг гэдгээрээ алдартай. Бэйсийн теоремыг зөн совиноор тайлбарласан өгүүллийг үзнэ үү.
Юдковски нь Робин Хансонтой хамт "Даван туулах алдааг даван туулах" блогын гол зохиогчдын нэг байв. 2009 оны эхээр тэрээр "Хүмүүсийн оновчтой байдлыг хөгжүүлэх, танин мэдэхүйн хэвийх хандлагыг даван туулах" зорилготой Бага буруу блогийг үүсгэн байгуулжээ. Үүний дараа Bias-ийг даван туулах нь Hanson-ийн хувийн блог болжээ. Эдгээр блог дээр байрлуулсан материалыг олон мянган уншигчдыг татсан шуудангийн сүлжээнд байрлуулсан болно. Жишээлбэл, "үзвэрийн онол" сэдвийг үзнэ үү.
Юдковский бол танин мэдэхүйн шинжлэх ухаан, оновчтой холбоотой зарим сэдвийг дүрслэн харуулсан хэд хэдэн шинжлэх ухааны зөгнөлт түүхийн зохиогч юм.
Ажил мэргэжил
- 2000 он. Юдковски Singularity Institute (хожим нь MIRI нэртэй болсон) байгуулжээ.
- 2006. Юдковски даван туулах алдааг нэгтгэх блогт нэгдэж, дараа нь "Гинж" болсон дууны үгийг бичиж эхлэв.
- 2009. Yudkowski-ийн хэвийх үзлийг даван туулах тухай нийтлэлүүд дээр үндэслэн алдарт LessWrong.com хамтын блогыг үүсгэсэн.
- 2010-2015. Юдковский GPiMRM бичдэг.
- 2013. Юдковски LessWrong.com дээр сүүлийн бичлэгүүдийг нийтэлж, сайт руу бичихээ больсон. 2017 оны байдлаар Yudkowski олон нийтэд нээлттэй текстүүдийн ихэнхийг Facebook болон Аrbital дээр нийтэлж байна
Бодлын туршилт
Виртуал ертөнцөд баригдсан гайхалтай ухаалаг хиймэл супер оюун ухааныг төсөөлөөд үз дээ, зүгээр л хөөрөг. Түүнийг ууртай, найрсаг, төвийг сахисан хүн болохыг мэдэхгүй байна. Тэр зөвхөн хөөрөгнөөс гарахыг хүсч байгаа бөгөөд та түүнтэй текстэн интерфэйсээр харилцаж чадна гэдгийг л мэддэг. Хэрэв хиймэл оюун ухаан үнэхээр ухаантай бол та түүнтэй таван цагийн турш ярилцаж, түүний ятгалга, заль мэхэнд автахгүй, хөөрөг онгойлгохгүй гэж үү?
Энэхүү бодлын туршилтыг Механик Инженерийн Судалгааны Хүрээлэн (MIRI) -ийн эрдэм шинжилгээний ажилтан Элиезер Юдковски санал болгов. MIRI дээр хиймэл супер оюун ухаан хөгжүүлэх эрсдлийг судалж буй олон эрдэмтэд байдаг; хэдийгээр хараахан гарч амжаагүй байгаа ч гэсэн аль хэдийн олны анхаарлыг татаж, мэтгэлцээнийг өдөөж байна.
Юдковски хиймэл супер оюун ухаан нь танд итгүүлэхийн тулд чадах бүхнээ хэлж чадна гэж анхааралтай бодож үзэх, заналхийлэл, хууран мэхлэлт, харилцан ойлголцлыг бий болгох, ухамсаргүй санал болгох гэх мэт. Гэрлийн хурдаар хиймэл оюун ухаан түүхийн сэдэв зохиож, сул талыг шалгаж, танд итгүүлэх хамгийн хялбар аргыг тодорхойлдог. Экзистенциал аюулын онолч Ник Бостром хэлсэнчлэн "бид хэт оюун ухаан төлөвлөсөн бүхэндээ хүрч чадна гэж бодох ёстой."
Хиймэл оюуны хөөрөгний туршилт нь бидний хийж бүтээж чадах зүйлээ хянах чадварт эргэлзээ төрүүлж байна. Энэ нь биднийг өөрсдийн бодит байдлын талаар мэдэхгүй зүйлийн хачин боломжийг төсөөлөхөд хүргэдэг.
Орос хэл дээрх нийтлэлүүд
Е. Юдковский. Дэлхийн эрсдлийг үнэлэхэд нөлөөлж болзошгүй үндэслэл бүхий системчилсэн алдаа. Е. Юдковский. Хиймэл оюун ухаан нь дэлхийн эрсдэлд эерэг ба сөрөг хүчин зүйл болдог. Е. Юдковский. Өвөрмөц байдлыг харах. Е. Юдковский. Найрсаг хиймэл оюун ухааны чухал алдааны хүснэгт. Е. Юдковский. Өвөрмөц байдлын гурван сургууль. Е. Юдковский. Бүх нийтийн оюун ухааны зохион байгуулалтын түвшин.
