Sự chú ý trong cộng đồng an toàn AI ngày càng bắt đầu bao gồm các cân nhắc chiến lược về phối hợp giữa các bên liên quan trong lĩnh vực AI và an toàn AI, bên cạnh công việc ngày càng tăng về các cân nhắc kỹ thuật trong việc xây dựng hệ thống AI an toàn. Sự thay đổi này có một số lý do: Hiệu ứng cấp số nhân, chủ nghĩa thực dụng và tính cấp bách. Với lợi ích của sự phối hợp giữa những người làm việc hướng tới siêu trí tuệ an toàn, cuốn sách này khảo sát nghiên cứu đầy hứa hẹn trong lĩnh vực mới nổi này liên quan đến an toàn AI. Ở cấp độ tổng hợp, chúng tôi hy vọng rằng cuốn sách này có thể đóng vai trò như một bản đồ để thông báo cho những người làm việc trong lĩnh vực điều phối AI về những nỗ lực đầy hứa hẹn khác. Mặc dù cuốn sách này tập trung vào phối hợp an toàn AI, nhưng việc phối hợp rất quan trọng đối với hầu hết các rủi ro hiện hữu đã biết khác (ví dụ: rủi ro công nghệ sinh học) và các rủi ro hiện hữu do con người tạo ra trong tương lai. Vì vậy, trong khi hầu hết các chiến lược phối hợp trong cuốn sách này đều dành riêng cho siêu trí tuệ, chúng tôi hy vọng rằng một số hiểu biết sâu sắc mang lại “lợi ích bổ sung” cho việc giảm thiểu các rủi ro hiện hữu khác, bằng cách tạo ra một khuôn khổ văn minh tổng thể giúp tăng cường sức mạnh, khả năng phục hồi và khả năng cải thiện nghịch cảnh.

Abstract:

Attention in the AI safety community has increasingly started to include strategic considerations of coordination between relevant actors in the field of AI and AI safety, in addition to the steadily growing work on the technical considerations of building safe AI systems. This shift has several reasons: Multiplier effects, pragmatism, and urgency. Given the benefits of coordination between those working towards safe superintelligence, this book surveys promising research in this emerging field regarding AI safety. On a meta-level, the hope is that this book can serve as a map to inform those working in the field of AI coordination about other promising efforts. While this book focuses on AI safety coordination, coordination is important to most other known existential risks (e.g., biotechnology risks), and future, human-made existential risks. Thus, while most coordination strategies in this book are specific to superintelligence, we hope that some insights yield “collateral benefits” for the reduction of other existential risks, by creating an overall civilizational framework that increases robustness, resiliency, and antifragility.

Ngôn ngữ:	En
Tác giả:	Duettmann, Allison, Yampolskiy, Roman
Thông tin nhan đề:	Artificial Superintelligence: Coordination & Strategy
Nhà xuất bản:	MDPI - Multidisciplinary Digital Publishing Institute
Loại hình:	Tài nguyên giáo dục mở / Bộ sưu tập: Công nghệ Thông tin
Bản quyền:	https://creativecommons.org/licenses/by-nc-nd/4.0/
Nguồn gốc:	https://directory.doabooks.org/handle/20.500.12854/41358
Mô tả vật lý:	206p.
Năm xuất bản:	2020