Giám sát thông minh hơn: AI đang viết lại cuộc chơi cho camera an ninh như thế nào?

Kỷ nguyên mới của giám sát video: AI tự động hóa, hỗ trợ con người ra quyết định

Khi các tác nhân trí tuệ nhân tạo (AI) ngày càng trở nên mạnh mẽ, hệ thống giám sát video đang bước vào một kỷ nguyên chuyển đổi – một kỷ nguyên được đánh dấu bằng tự động hóa thông minh, ra quyết định theo ngữ cảnh và hỗ trợ nâng cao cho người vận hành. Các hệ thống này không còn bị giới hạn trong việc thực thi các quy tắc tĩnh, được thiết lập sẵn.

Thay vào đó, chúng đang phát triển thành các thực thể phản hồi có thể đánh giá và hành động linh hoạt dựa trên thông tin thời gian thực, từ đó xác định lại vai trò của người vận hành và hiệu quả tổng thể của hoạt động an ninh.

Trọng tâm của sự chuyển đổi này là khái niệm về quyền tự chủ – mức độ quyền ra quyết định nào có thể và nên được ủy thác cho máy móc. Theo Florian Matusek, Giám đốc Chiến lược AI và Giám đốc điều hành của Genetec Vienna, câu hỏi này là nền tảng cho tương lai của AI trong giám sát video.

Ông Matusek cho biết: “Các tác nhân AI hiện có thể tự động hóa nhiều tác vụ hơn bằng cách phản ứng linh hoạt với các tình huống mà không cần dựa vào các quy tắc được xác định trước. Thay vì hỏi cần bao nhiêu sự can thiệp của con người, chúng ta nên xem xét cần bao nhiêu là đủ.”

Sự thay đổi tinh tế nhưng quan trọng này trong cách đặt vấn đề phản ánh một xu hướng rộng lớn hơn trong ngành: sự chuyển dịch từ các hệ thống phản ứng sang các khả năng chủ động và dự đoán. Các hệ thống quản lý video (VMS) ngày nay phải hoạt động trong các môi trường phức tạp, quan trọng đối với nhiệm vụ – từ sân bay và nhà máy điện đến mạng lưới giám sát thành phố – nơi các quyết định không chính xác hoặc chậm trễ có thể gây ra hậu quả nghiêm trọng.

Ông Matusek cảnh báo: “Các hệ thống VMS được triển khai ở các vị trí quan trọng, nơi các quyết định sai lầm có thể gây ra tác động lớn. Đây là lý do tại sao con người nên luôn được tham gia vào quá trình ra quyết định quan trọng để các phán đoán cuối cùng được đưa ra dưới sự giám sát của con người. Hệ thống AI nên tăng cường khả năng của người dùng, không thay thế họ.”

Từ phân tích đến tự chủ

Tại Milestone Systems, sự chuyển đổi này được xem xét thông qua lăng kính của “Chỉ số Hành động” (Action Quotient) hay AQ, theo cách gọi của Giám đốc Công nghệ Rahul Yadav. Đây là thước đo mức độ thông minh và tự chủ của một hệ thống có thể phản ứng với các kích thích – phản ánh cách xe tự lái diễn giải và hành động dựa trên các điều kiện đường xá luôn thay đổi.

Ông Yadav giải thích: “Sự thay đổi này thể hiện những gì chúng tôi gọi là Chỉ số Hành động, hay AQ, đó là sức mạnh để hành động một cách thông minh và tự chủ, tương tự như cách xe tự lái của Tesla không chỉ xử lý các điều kiện đường xá mà còn điều hướng các tình huống giao thông phức tạp trong thời gian thực.”

Trong bối cảnh an ninh video, AQ chuyển thành khả năng của các tác nhân AI trong việc phát hiện các bất thường, xác định các mối đe dọa an ninh, điều phối các phản ứng thích hợp và thậm chí dự đoán các sự cố trong tương lai dựa trên các mẫu và dữ liệu lịch sử. Theo ông Yadav, các hệ thống này liên tục cải thiện, học hỏi từ mọi sự cố mà chúng xử lý.

Ông nói: “Các tác nhân AI có thể xử lý việc giám sát thường xuyên, xác định các mối đe dọa, điều phối các phản ứng và dự đoán các sự cố. Giá trị của chúng đến từ việc học hỏi từ mỗi sự cố và cải thiện theo thời gian, tạo ra các hoạt động an ninh ngày càng hiệu quả.”

Mặc dù có những tiến bộ này, cả hai chuyên gia đều đồng ý về một nguyên tắc không thể thương lượng: sự giám sát của con người vẫn là không thể thiếu. Công nghệ, dù tinh vi đến đâu, cũng không thể thay thế hoàn toàn cho sự phán xét của con người – đặc biệt là trong các tình huống không thể đoán trước hoặc nhạy cảm về mặt đạo đức.

Ông Yadav cho biết: “Các hoạt động an ninh hiệu quả nhất kết hợp công nghệ và chuyên môn của con người. Người vận hành có khả năng vượt trội trong việc hiểu ngữ cảnh, đưa ra các phán đoán sắc thái và xử lý các tình huống bất ngờ. Điều quan trọng là tìm ra sự cân bằng phù hợp, nơi công nghệ xử lý các tình huống có thể dự đoán được, trong khi con người tập trung vào các tình huống đòi hỏi sự phán xét và đồng cảm.”

Quyền riêng tư và thiên vị: những lĩnh vực đạo đức của AI

Khi các hệ thống AI đảm nhận quyền tự chủ lớn hơn, chúng không thể tránh khỏi việc gặp phải các thách thức về đạo đức và quy định – đặc biệt là về quyền riêng tư dữ liệu, tính công bằng của thuật toán và việc sử dụng có trách nhiệm. Trong giám sát video, nơi các hệ thống liên tục thu thập và xử lý thông tin cá nhân nhạy cảm, rủi ro đặc biệt cao.

Ông Matusek cảnh báo về những rủi ro của việc mù quáng tin tưởng dữ liệu mà không có sự kiểm tra nghiêm ngặt và sự đồng ý của người dùng. Ông nói: “Các hệ thống AI chỉ tốt như dữ liệu mà chúng đã được cung cấp. Các tập dữ liệu thiên vị dẫn đến các quyết định thiên vị và nên tránh.”

Ông nhấn mạnh rằng các tổ chức phát triển phân tích video dựa trên AI phải siêng năng về chất lượng dữ liệu và tính minh bạch. “Dữ liệu trong các tập dữ liệu cần được kiểm tra và dữ liệu khách hàng chỉ nên được sử dụng sau khi có sự đồng ý rõ ràng của họ. Đây là lý do tại sao, bất cứ khi nào phát triển các hệ thống AI, nên tuân thủ các nguyên tắc AI có trách nhiệm.”

Ông Yadav lặp lại những lo ngại này và coi chúng vừa là nghĩa vụ đạo đức vừa là lợi thế chiến lược. Ông nói: “Phát triển công nghệ có trách nhiệm đã trở thành một lợi thế cạnh tranh quan trọng. Các tổ chức phải ưu tiên các khuôn khổ đạo đức bảo vệ quyền riêng tư đồng thời cho phép đổi mới và xây dựng lòng tin với người dùng, những người chọn đối tác an ninh dựa trên thành tích đạo đức của họ.”

Để thực hiện điều này, Milestone đang nỗ lực xây dựng các cấu trúc quản trị mạnh mẽ, quy định cách dữ liệu – đặc biệt là dữ liệu video – được thu thập, lưu trữ, xử lý và sử dụng trong việc đào tạo các mô hình học máy.

Ông Yadav lưu ý: “Các cân nhắc về quyền riêng tư là tối quan trọng trong an ninh video, nơi thông tin nhạy cảm liên tục được thu thập. Các công ty VMS phải phát triển các khuôn khổ quản trị rõ ràng cho việc sử dụng dữ liệu, đặc biệt là khi đào tạo các mô hình AI. Chúng tôi đang khám phá cách tận dụng dữ liệu video một cách có đạo đức, tạo ra các hệ thống được đào tạo trên dữ liệu có nguồn gốc có trách nhiệm.”

Vấn đề thiên vị vẫn là một trong những thách thức dai dẳng nhất – và có khả năng gây nguy hiểm nhất – trong phát triển AI. Dữ liệu đào tạo thiên vị có thể dẫn đến các hệ thống nhắm mục tiêu hoặc bỏ qua một cách không công bằng các nhóm nhân khẩu học nhất định, gây ra rủi ro cả về việc kiểm soát quá mức và phát hiện thiếu sót.

Ông Yadav nói: “Thiên vị thể hiện một thách thức quan trọng khác. Các hệ thống AI học hỏi từ dữ liệu đào tạo của chúng và bất kỳ sự thiên vị nào sẽ được phản ánh trong các hệ thống kết quả. AI tuyệt vời đòi hỏi không chỉ dữ liệu phong phú mà còn dữ liệu đa dạng, có nguồn gốc đạo đức, bao gồm toàn bộ các kịch bản mà không ưu ái một cách không công bằng các nhóm hoặc tình huống nhất định.”

Hàm ý đối với nhà tích hợp và người dùng cuối

Đối với các nhà tích hợp hệ thống, tư vấn và người dùng cuối, sự phát triển của AI trong giám sát video mang đến cả cơ hội mới và trách nhiệm mới. Một mặt, tự động hóa do AI cung cấp hứa hẹn sẽ cải thiện hiệu quả hoạt động, giảm số lượng báo động giả và cho phép thời gian phản hồi nhanh hơn.

Mặt khác, nó đòi hỏi sự hiểu biết sâu sắc hơn về cách các hệ thống này hoạt động – và những tiêu chuẩn đạo đức nào chúng nên tuân thủ.

Quá trình chuyển đổi cũng đòi hỏi sự thay đổi trong đào tạo. Nhân viên an ninh phải được đào tạo không chỉ về cách sử dụng các công cụ AI mà còn về cách giám sát chúng. Các nhà tích hợp cần biết cách đánh giá các sản phẩm AI về tính thiên vị, tuân thủ quyền riêng tư và tính minh bạch trong hoạt động.

Hơn nữa, người mua đang trở nên sáng suốt hơn. Các tổ chức ngày càng tìm kiếm các đối tác có thể cung cấp không chỉ hiệu suất kỹ thuật mà còn cả cam kết rõ ràng về phát triển AI có trách nhiệm. Như ông Yadav đã nói, “Người dùng chọn đối tác an ninh dựa trên thành tích đạo đức của họ.”

Hướng tới tương lai

Cả Genetec và Milestone đều đồng ý rằng con đường phía trước nằm ở sự hợp tác – giữa trí thông minh của con người và học máy, giữa đổi mới và quản trị. AI sẽ không thay thế yếu tố con người trong an ninh video; thay vào đó, nó sẽ xác định lại và nâng cao nó.

Ông Matusek nói: “Hệ thống AI nên tăng cường khả năng của người dùng, không thay thế họ.” Tình cảm này có thể sẽ định hình thế hệ giám sát video tiếp theo: thông minh, đạo đức và trên hết là lấy con người làm trung tâm.

Khi các tác nhân AI tiếp tục trưởng thành, thách thức đối với ngành an ninh sẽ là nắm bắt tiềm năng này một cách có trách nhiệm – đảm bảo rằng việc giám sát thông minh hơn không phải trả giá bằng lòng tin, sự công bằng hoặc trách nhiệm giải trình.