Các hệ thống an toàn quan trọng với mức độ số hóa, tự động hóa và trí tuệ nhân tạo (AI) cao hơn đòi hỏi sự tích hợp các yếu tố con người để đảm bảo an toàn, hiệu quả và khả năng kiểm soát có ý nghĩa của con người. Trong các lĩnh vực như hàng không, hàng hải, năng lượng, vận tải và vận hành từ xa, các cuộc điều tra tai nạn liên tục cho thấy rằng các sự cố thường không chỉ bắt nguồn từ công nghệ mà còn từ việc lập kế hoạch không đầy đủ, thiết kế lấy con người làm trung tâm kém, quá tải cảnh báo, tự động hóa rời rạc và các điều kiện tổ chức khiến người vận hành không được chuẩn bị trong các tình huống nguy cấp. Các thảm họa như tai nạn Boeing 737 MAX cho thấy an toàn có thể bị ảnh hưởng như thế nào khi con người và hệ thống không đồng bộ, trong khi các trường hợp phục hồi thành công (như vụ hạ cánh của chuyến bay US Airways 1549 xuống sông Hudson) cho thấy vai trò quan trọng của hiệu suất con người được hỗ trợ bởi thiết kế trong các điều kiện khắc nghiệt. An toàn theo thiết kế: Các phương pháp lấy con người làm trung tâm đối với AI, tự động hóa và vận hành từ xa khám phá mối quan hệ giữa khả năng của con người, sự sẵn sàng của tổ chức và các hệ thống kỹ thuật phức tạp. Cuốn sách đưa ra các thực tiễn tốt nhất để thiết kế các hệ thống an toàn quan trọng tích hợp các yếu tố con người từ khâu ý tưởng đến vận hành. Cuốn sách giới thiệu Kiểm soát có ý nghĩa của con người (Meaningful Human Control), một khuôn khổ đảm bảo con người duy trì quyền hạn, nhận thức và khả năng can thiệp, phù hợp với các quy định AI mới nổi của EU. Độc giả sẽ học được các phương pháp thực tiễn để thiết kế hệ thống với tính khả dụng, minh bạch và giám sát, cùng với những hiểu biết sâu sắc về tự động hóa, phân tích tai nạn và hỗ trợ người vận hành trong điều kiện căng thẳng. Những nguyên tắc này giúp tạo ra các hệ thống an toàn hơn, bền vững hơn và đáng tin cậy hơn. Cuốn sách này được viết dành cho sinh viên và chuyên gia về yếu tố con người, các nhà thiết kế hệ thống, kỹ sư, chuyên gia an toàn, nhà quản lý và quản lý dự án làm việc trên các ứng dụng quan trọng về an toàn liên quan đến tự động hóa, trí tuệ nhân tạo hoặc vận hành từ xa.

Abstract:

Safety-critical systems with more digitalization, automation, and AI require integration of human factors to ensure safety, efficiency, and meaningful human control. Across sectors such as aviation, maritime, energy, transportation, and remote operations, accident investigations repeatedly show that failures often stem not from technology alone but from inadequate scoping, poor human-centered design, alarm overload, fragmented automation, and organizational conditions that leave operators unprepared during critical situations. Disasters such as the Boeing 737 MAX accidents demonstrate how safety can be compromised when humans and systems are misaligned, while successful recoveries (such as the US Airways Flight 1549 landing on the Hudson River) show the vital role of design-supported human performance in demanding conditions. Safety by Design: Human-Centered Approaches to AI, Automation, and Remote Operations explores the relationship between human capabilities, organizational readiness, and complex technical systems. It offers best practices for designing safety-critical systems that integrate human factors from concept to operation. The book introduces Meaningful Human Control, a framework ensuring humans retain authority, awareness, and intervention ability, aligning with emerging EU AI regulations. Readers will learn practical methods to design systems with usability, transparency, and oversight, alongside insights into automation, accident analysis, and supporting operators under stress. These principles help create safer, more resilient, and trustworthy systems. This book has been written for human factors students and specialists, system designers, engineers, safety professionals, regulators, and project managers working on safety-critical applications involvi