AI-.   AI AI
 


AI   ,       .          ,      





AI-

  AI AI



 



 ,2025



ISBN978-5-0067-9645-4

     Ridero


  AI AI

AI   ,    .        ,      [1] [2] [3] [4] [5][6].

  

   

    ,     .           ,  ,     [5][6].

   

   ,      .   ,        ,   [4] [7][5].

  

!       ,  .        ,    ,    [3] [4][7].

     

    :   ,    ,  .        ,     [4][6].

   

     ,       ࠖ    .      ,       [4][8].

蠖  Ȼ

      , 蠖    ,      .    ,      [6][4].







 :       .      ,   ,    ,     [1] [2] [3] [4] [5][6].



?



    

        .   ,        [11] [12] [13].

 

1.  

,    젖 ,  ,       [12] [11].

     ,    .

2.   

,    :      ࠖ  ,   [11] [12].

   -,  ,     ,   .

3.   

     ,    , ,    [11] [12].

 ࠖ  :      .

4.   

,        蠖      [13] [11].

 頖   .

5.   

,   ,   -  [13] [11].

   ,     .

6.    

 ⠫        [13] [11].

  :    ?   ?   ?

7.  -  

      -  ,        [12] [14].



       , , ,        [11] [12] [13] [14].



?



Considerations on the AI Endgame (Chapman & Hall/CRC Artificial Intelligence and Robotics Series)  

 

 Considerations on the AI Endgame  Chapman & Hall/CRC Artificial Intelligence and Robotics Series   ,      ,   ,    [21] [22] [23].

  

    ,    ,    ,        .

          Ȼ  ,   .

    , ,          (   ),     .

          .

     蠖   ,    .

    ,  ,         .

       ()   .

           .

  

   ,     ,   .

  ,  ,       .

  ,          [21] [24] [22] [23] [25].

 ,     , ,       Ƞ   ,  ,     [21] [24].



?



     ,   

  Considerations on the AI Endgame      ,   ,   .         . 堖    ,  ,   .

 1: Ƞ      

    ,        ().  ,    alignment   qualia,      .




  


  $ U$    








 $ r_t $ ,  .       :       . ,        (qualia) 


.








 2:        

 ,  alignment     ,  .             ⠖.




  


     $ V (s) $,  -         :













     ,    -   .   ,    [32] [33].













 3:   堖   

 ,           .  ,     ,    ,   .




 


蠖   ,    













  .   ,   ,   ,     .








 4: Ƞ   

   ,     AI,       .




  


,     $ D $  $ P (x,y) $, 堖 , ࠖ .    $ P (x,y) \ne P_ {ideal} (x,y) $,   


















  ,    ,     .








 5:       

        ,    .   ,  ,   .




 


        :













    .    ,     ,    ,  .




















  Considerations on the AI Endgame ,          .            Ƞ   [32] [34] [33].

?



 5      

  ,        ,     ,        .

 5:       

   

  ,          .      ,  :


















    ,  ,             .

 :         ,         .

    :     .   ,          .








   

   (,  )   蠖   ,      :








  :  ,    ,   ,   . ,      ,       .

   :      ,        (      ).

  

  ,  ,       :


















堖 ,   ()   .


















         .

     ( - )    .



Ѡ    ,  ,     ,   .  ,               .          ,       


.

 ,                    .

?



  ,    

      Ƞ   ,        .       ,    .

   

 ࠖ     ,      .

     ,  ,   .

    ,   ,    .

   

1.   

    蠫  ,      .

,  ,    ,   ,   -  .

     -    ,     .

2.    

       ,   .

       ,   .

         .

3.    

  ,     ,      .

        ,        .

   

Ѡ    ,       :

  , ࠖ  .













  ()     :













  ,      .








          :























        .

 

        ,    ,   .

       ,   -.

  -    ,        .



  Ƞ      .    ,    ,       .          [36] [37].

?



          ,     

  ()       ,     ,  .              .

    

1.    

      ,   . ,  ,        ,          [38] [39].

2.     

      ,      .      ,     [40] [41].




3.   


       ,         .         [42] [43].




4.   


  (Emotion AI)          ,   .          ,     [38] [39].

5.     

          (,  ,  ),          [43] [44].

6.      ( )

    ,       ,  .       ,   [41] [44].




7.   


 alter ego    Ƞ   ,      ,        


.

8.     

   ,    ,      .         [45] [46].

9.        

      ,     ,  .    ,    [39] [47].







   :

,   ,

  ,

  ,

    ,

   ,

    ,

     .

        ,             [40] [42] [38] [41] [44].

 ,         .



?



  

   ,     ,  ,     :

Soenke Ziesche, Roman V. Yampolskiy. Considerations on the AI Endgame: Ethics, Risks and Computational Frameworks. Chapman & Hall/CRC Artificial Intelligence and Robotics Series, 2025.

           [52] [53].

Alexander Didenko.  Ƞ   ,  , Skolkovo, 2024.

         


.

 Habr.com (http://habr.com/):    , 2025.

      ,     


.

Evergreens.  Ƞ     Ȼ, 2020.

         


.

Kozlov,    Ȼ,  , 2020-.

     ,    







  .


   .

   ,     (https://www.litres.ru/pages/biblio_book/?art=72480556)  .

      Visa, MasterCard, Maestro,    ,   ,     ,  PayPal, WebMoney, ., QIWI ,       .


