��������� ��������, ������������� �������������� ���������� � ��������� ����� �������� ��������� �������� ������������� ���������� ������ ���� ������� � �������� �����, ������� ���������� ��������� ������� � ��������� ��� �������� �������, �������������� ���������� ���� �������� � ��� ��� ���� ��������. ������ ������������� � ������ ������������������� ������� ������� �����, �������������� � ��������� ������������ ��������� ������ �������������� ����������. ��� ��� ��������, ��� ���� �������� ������������ � ���, ��� �� ���� ����� ������ � ������, ���� �����-������ ������� �������������� ���������� ������ ��-��� �������� � ������ ����������� �� ���� ���������� �����.

������������� �������� Google ��� ��������� Deepmind, ��������� �� ������������� ��������� �������� ������������ (Future of Humanity Institute, FoH), ������� ������������, ���������� �������� ��������� ������������ ������ �������������� ���������� � ������ ������ �� ������������� ����������������. �������� ����������� ���� ������������, ������������ �������� �������� � ������ ������ �������� "������� ������� ������", ������� ��������� ��������� ������������ ������� �������������� ����������.

������� ��� ������ ������������ ����� ������������, ����������� � 2013 ����. � ������� ������������� �������������� ��������� ������� �������������� ����������, ��������� ��������� ����� � ������. ����� �����-�� ����� ���� �������� ����� ���������� ��������������, ��� ����� ������� ���� ����������� ���� ��� ������������, ��� ����� ������ ������ �� ����� � �� ��� �� ���������.

����� ��� ����������� ������� �������� �������� ����� ����������, �� ��� ��������� ����������� � ��������, ���������� ������������� ��������� �������� ������������. ��� ������� (Nick Bostrom), ���������� ����� ���������, � ���� ����� ������� ����� ��� ��������� "�������������� /Superintelligence", ������� �������� ������ ���� ��������������� ����� ������������. ��� �������������� ����������� � ���, ��� ����� ������������� ��������� ������� ����������� ����������������� � ����� �� ������������� ������������, �� ������ ���������� �� ������, ������� �� ����� ��� ���������� ���������������� ������� ������������. ����� ������� ���� ������� ������� � 1958 ���� ������-����������� ����������� ������ (Stanislaw Ulam) � ���, ��� �������, �������� �������� "�������������".

������������� ������� ������ "���������� ������������" ����������� � ��������� � ����� �������������� ������� ������ ���� ����������� ��������������, ������� ����������� � ������, ���� �������� �������������� ���������� ���������� �������� ��� ����������. �� � ��������� ������� ������� �������������� ���������� ������ ������ ��������� �� ������, ����� ��� ������ ���������� ������������������ ��������� ��������������, � ��, �� ������ ������������ Google Deepmind � FoH, ����������� ��������, ��� ��� ����� � ������� ������ ����.

��� ����, ����� ����������� ��� �������������, �����������, ��������������� ������� �������������� ����������, ������ ���������� "������� ����������", ��������� ��������, ������� �������� "�������� ��� �� ���������� ������ �������� ��������� �������� (��) �������������� �������". ������� �������, ��� ������ ���� ������, ��������� ��������� �����, ������� ������ ��������� ������ ������, ��� �� ���� ������������. �� �������� ���������, ����������� ���� ������������� ������, ������ �������������� ������ ����������, � ��������� ����� ������ ��������� ������� (������, �������� ����� ��� ����� ��������) �����, ������� ������ ��������� ������ �������, ��� ��� ��� ��������� ����������� � ������ �����������. ������� �������, ��� ��� �������� �������� ������ ���������� ��� ���������, ������� ��������� ������������ ������� �� �����.

������������� ��������, ��� ��������� � ���������� ������������ ������ �������������� ���������� ������ ������������� ������ ����, ��������� ����� ���������. ����� ������ ���� ������ ���� ������ ����������� ��������������� ������ ���������. � ���������� ����� ����� ������ ���� ����������� ������, ������������� �������, ��� ��� ����� ���� ������� �������������� ���������� � ����� ������������ "��������� ������� �������".

�� � ����� ���������� ������ �� ����� ���������� ��� ��������� ��������. ���� ������� �������� ������� �������������� ���������� ���������� ������������ �����, �� ����� ����� ������� � ������� ����� � ��������� ���������� ��� ��������� �������� �������� �������, ������� "������� ����������" �� ������ ������������ ����.

� � ���������� ������� ��������, ��� ������������, ����������� Google Deepmind � FoH, �������� ���������� ����������, ���� �� ����� ��� �� ���������� �������������� �����������, ��������������� ��� �������������� �������������� ����������. �� ����� ����������� ���������� �������� � ������ ������� � �� ������������ ������ ����� ������ � ��� ��� �������� ������, ��������� ����� ����������� ���������� � ����������� ���������������.