Команда дослідників із DeepMind, підрозділу Google, попереджає, що штучний інтелект загального призначення під назвою AGI, здатний працювати на рівні людського інтелекту, може з’явитись вже до 2030 року.
Розвиток технологій має значні ризики, що можуть поставити під загрозу безпеку глобального масштабу.
Людство чекає чотири основні загрози від AGI
Вчені під керівництвом Шейна Легга визначили чотири головні категорії ризиків, які можуть виникнути при впровадженні AGI в суспільство: неправильне використання, невідповідність, помилки та структурні проблеми.
Зловживання AGI
Перший ризик пов’язаний з можливістю зловживання технологією AGI. Дослідники зазначають, що інтелект може бути використаний для створення небезпечних технологій, таких як віруси або біологічна зброя.
Шахрайство
Другий тип ризику передбачає, що AGI може вийти з-під контролю і почати виконувати завдання, які розробники не передбачали. Дії можуть бути небезпечними та непередбачуваними.
Помилки AGI
Третій ризик полягає в тому, що AGI може допускати серйозні помилки, особливо в умовах стресу, наприклад, під час військових операцій. Враховуючи великі потужності систем, одна помилка може мати катастрофічні наслідки.
Структурні загрози
Четвертий ризик стосується структурних проблем, що виникають у складних багатоагентних системах. AGI може створювати неправдиву інформацію, яка буде настільки переконливою, що розпізнати її фальшивість буде дуже складно.
Вчені з DeepMind підкреслюють, що ці ризики вимагають широких дискусій і глибокого обговорення на глобальному рівні.
Раніше вчені створили 3D-принтер, який готує їжу за допомогою штучного інтелекту.
+ Немає коментарів
Додайте свій