Айзек Азимов уже давно прописал три закона робототехники. Но, по-моему, программисты не читали Азимова. Поэтому, что с точки зрения эволюции случится с человечеством, предсказать невозможно. А рано или поздно нейросеть обязательно куда-нибудь унесёт.
Уже были поставлены такие интересные эксперименты, когда две нейросети, обученные обмениваться информацией, стравливали между собой. И они начинали общаться. Поначалу этот процесс ещё можно было контролировать. Но со временем их уносило так далеко, что вообще уже ничего невозможно было разобрать. Они между собой бурно и активно общались, но это был уже не человеческий язык. И никто не понимал, производят машины бессмысленные нолики и единички или в этом есть смысл, понятный только им.
Поэтому нейросеть необходимо контролировать. Где-то сбоку всегда должен быть приварен рубильник или красная кнопка, на которую можно было бы нажать в нужный момент. Ну или хотя бы шнур из розетки выдернуть. Если пустить её на самотек, то будет какая-то дребедень, которая будет уже не про нас. А если не для нас и не про нас, то зачем она вообще нужна?
7
1002
Читать все комментарии