August 18th, 2013

Мысленный эксперимент "максимизатор скрепок".

Универсальный искусственный разум (Artificial general intelligence), или УИР, это устройство, способное вести себя разумно во множестве областей. Этот термин может применяться в противоположность специальному ИР, системам, делающим вещи, рассматриваемые как разумные, если таковые выполняются человеком, но которым (системам) недостает универсальности, способности гибко обучаться, позволяющей им захватывать совершенно новые области.
Хотя современные компьютеры чрезвычайно превосходят людей в вычислениях, это не означает, что они в целом разумны до тех пор, пока они слабо приспособлены для создания новых методов решения проблем и их возможности сосредоточены в узких областях.

УИРы и люди
Непосредственное сравнение производительности ИР и производительности людей зачастую являет образец антропоморфизма. Внутреннему способу работы ИР не нужно быть похожим на человеческий; УИР может иметь совершенно иной набор способностей, чем те что мы привыкли видеть у наших собратьев. Мощный УИР, способный управляться во многих областях, в любой области может достичь компетентности, превышающей компетентность любого человека.

Ценности УИР могут также быть явно чуждыми человеческим и в этом случает он не будет видеть целесообразности во множестве человеческих занятий и у него не будет намерения превосходить человеческую производительность (в соответствии с человеческой оценкой эффективности). При сравнении предпочтений УИР и человеческих, УИР классифицируется как дружественный или недружественный. Недружественный УИР может стать большой экзистенциальной угрозой.


Collapse )
Buy for 100 tokens
Buy promo for minimal price.