Sean Roche, Giám đốc cấp cao Tiếp thị và Kỹ thuật Sản phẩm, Obsidian Security – Loạt phỏng vấn

Sean Roche, Giám đốc cấp cao Tiếp thị và Kỹ thuật Sản phẩm tại Obsidian Security, dẫn đầu các sáng kiến跨 chức năng tập trung vào bảo mật SaaS, bảo mật AI và chiến lược thị trường. Ông đã đóng vai tròthen chốt trong việc phát triển khuôn khổ sử dụng thống nhất đầu tiên của công ty, đồng bộ hóa bán hàng, tiếp thị và thành công của khách hàng xung quanh các kết quả kinh doanh có thể đo lường được, đồng thời giám sát việc ra mắt các giải pháp bảo mật GenAI và bảo mật đại lý AI. Trước khi đến Obsidian Security, Roche đã giữ các vị trí lãnh đạo tại các công ty bao gồm Forter, Aviatrix và Okta, nơi ông chuyên về tư vấn giá trị kinh doanh, chiến lược định giá, kỹ thuật giá trị khách hàng và phân tích ROI cấp điều hành. Bối cảnh của ông kết hợp bảo mật mạng, chiến lược phần mềm doanh nghiệp và nghiên cứu tài chính, mang lại cho ông kinh nghiệm sâu rộng trong việc chuyển đổi khả năng kỹ thuật thành tác động kinh doanh có thể đo lường được cho khách hàng doanh nghiệp.

Obsidian Security là một công ty bảo mật tập trung vào việc bảo mật các ứng dụng SaaS, đại lý AI, danh tính và tích hợp doanh nghiệp trên các môi trường đám mây hiện đại. Công ty cung cấp một nền tảng thống nhất được thiết kế để giúp các tổ chức phát hiện các mối đe dọa, quản lý tư thế bảo mật SaaS, quản lý quyền truy cập dữ liệu và theo dõi hoạt động rủi ro trên các ứng dụng quan trọng của doanh nghiệp như Microsoft 365, Salesforce, Slack và các dịch vụ đám mây khác. Trong những năm gần đây, Obsidian đã mở rộng vào bảo mật đại lý AI, giúp các doanh nghiệp có được cái nhìn sâu sắc về cách các hệ thống AI tự chủ tương tác với các nền tảng SaaS, dữ liệu và công việc trong thời gian thực. Được thành lập bởi các nhà lãnh đạo bảo mật có kinh nghiệm tại các công ty bao gồm CrowdStrike, Okta, Cylance và Carbon Black, Obsidian tự định vị mình là một nền tảng bảo mật SaaS và AI từ đầu đến cuối được xây dựng để giải quyết sự phức tạp ngày càng tăng của các môi trường đám mây và AI đại lý.

Bạn đã xây dựng sự nghiệp của mình tại giao điểm của giá trị kinh doanh, chiến lược rủi ro và bảo mật SaaS, hiện đang dẫn đầu kỹ thuật giá trị và tiếp thị sản phẩm tại Obsidian Security. Điều gì thu hút bạn đến việc bảo mật các hệ sinh thái SaaS được thúc đẩy bởi AI, và cách tiếp cận của Obsidian khác biệt như thế nào khi nói đến các công nghệ đại lý mới nổi như OpenClaws?

Trong suốt sự nghiệp của mình, khoảng trống lớn nhất luôn là những gì bảo mật không thể thấy, vì đó là nơi các vi phạm thực sự tồn tại. Chúng tôi đã thấy điều này trong các sự cố nơi các hệ thống bị ngắt kết nối hoặc không được quản lý tạo ra sự phơi nhiễm mà các biện pháp kiểm soát truyền thống đơn giản không bắt được. Và tôi đã thấy cùng một động lực đầu tiên với các cầu nối hiện đại mà mọi người sử dụng để kết nối vào các nền tảng chính, hoặc các kết nối nằm ngoài tầm nhìn bảo mật bình thường, và trong một số trường hợp, ngay cả sau khi nhóm CNTT nghĩ rằng họ đã vô hiệu hóa chúng. Những kinh nghiệm đó đã làm rõ bao nhiêu rủi ro nằm trong các mối nối giữa các hệ thống, không chỉ trong các hệ thống mà chúng tôi nghĩ đã được bảo mật.

Hiện thực này đang thay đổi từ shadow IT sang shadow AI, nơi các công cụ và công việc dựa trên đại lý mới có thể xuất hiện và lan rộng nhanh hơn các chiến lược quản trị có thể theo kịp. Nhiều cách tiếp cận bảo mật phản ứng bằng cách cố gắng tập trung hóa và kiểm soát mọi thứ vào một mặt phẳng kiểm soát duy nhất. Nhưng mô hình đó bị phá vỡ trong các môi trường phân tán, đặc biệt là khi dữ liệu và hoạt động quan trọng đang diễn ra trong các ứng dụng của bên thứ ba mà bạn không sở hữu và không thể kiểm soát hoàn toàn.

Đó là điều đã thu hút tôi đến việc bảo mật các hệ sinh thái SaaS được thúc đẩy bởi AI, và đó cũng là lý do tại sao cách tiếp cận của Obsidian lại rất hấp dẫn. Số lượng vi phạm SaaS đã tăng 300%, nhưng hầu hết các tổ chức vẫn thiếu sự hiểu biết đúng đắn về cách các ứng dụng này đang được sử dụng. Đây là khoảng trống mà chúng tôi tập trung vào, để bạn có thể hiểu rõ những gì thực sự đang xảy ra trong doanh nghiệp và nơi có sự phơi nhiễm. Khi các công nghệ đại lý như OpenClaws trưởng thành, cách tiếp cận này trở nên quan trọng hơn, vì rủi ro không chỉ là liệu một đại lý có quyền truy cập vào某 dữ liệu hay không, mà còn là những gì nó có thể truy cập và làm thế nào nhanh chóng nó có thể hành động.

Hệ thống AI đại lý như OpenClaws đang thu hút sự chú ý đáng kể sau NVIDIA GTC. Từ quan điểm của bạn, điều gì cơ bản khác biệt giữa các hệ thống này và các công cụ AI trước đó về mặt rủi ro bảo mật?

Hiểu rõ các danh tính phi con người là gì và cách bảo mật chúng đã trở thành quan trọng đối với các đội bảo mật, vì 68% các sự cố bảo mật CNTT hiện nay liên quan đến danh tính máy và một nửa số doanh nghiệp được khảo sát đã trải qua một sự cố bảo mật do danh tính phi con người không được quản lý. Ngành bảo mật đã tập trung chủ yếu vào quản lý tư thế bảo mật SaaS và quản trị danh tính con người trong khi danh tính phi con người phổ biến ở hậu trường. Giờ đây, khi các tổ chức triển khai các đại lý AI với đặc quyền quản trị ở quy mô lớn, thâm hụt quản trị đã trở nên quan trọng.

Các hệ thống đại lý như OpenClaws thể hiện cả tiềm năng và rủi ro của AI đại lý thực sự. Đây là một trong những lần đầu tiên chúng tôi thấy AI được phát hành vào tự nhiên với sự tự chủ thực sự, hoạt động ngoài một công việc được giám sát hẹp.

Rủi ro bảo mật thay đổi nhanh chóng khi những khả năng này trở nên dễ tiếp cận hơn, giảm thiểu rào cản cho những người không chuyên tương tác và có thể khai thác các hệ thống quan trọng này. Người dùng đã kết nối các đại lý AI vào môi trường SaaS của họ và mở rộng cảnh quan mối đe dọa theo nhiều cách, bao gồm cả khóa API, tích hợp bản địa và ứng dụng của bên thứ ba. Tuy nhiên, mỗi công việc dựa trên đại lý mới nhân lên số lượng đường dẫn truy cập.

Sự cố xâm phạm gần đây của Vercel minh họa mối đe dọa ngày càng tăng đối với các đội bảo mật. Khi bạn ủy quyền cho một ứng dụng của bên thứ ba, bạn đang ngầm tin tưởng mọi người tiếp xúc với cơ sở hạ tầng của ứng dụng đó, nhà cung cấp đám mây của họ, nhà phát triển của họ, dịch vụ kết nối của họ. Hầu hết các tổ chức không biết họ đã đồng ý với những gì và vấn đề này được khuếch đại bởi việc sử dụng AI đại lý phổ biến.

Nhiều đại lý AI hoạt động mà không có bộ phận kiểm soát thực sự. Khi bạn không có quyền truy cập vào dấu vân tay hoặc có rào cản yếu, rất khó để biết đại lý đã làm gì, nó chạm vào gì và những gì đã thay đổi cho đến sau khi sự việc đã xảy ra. Sự kết hợp này là những gì làm cho hồ sơ rủi ro cơ bản khác biệt so với các công cụ AI trước đây.

Bạn đã mô tả OpenClaws như một công cụ có thể暴露 các bề mặt tấn công mới do các quyền hạn rộng rãi và tính tự chủ của nó. Bạn có thể mô tả một kịch bản thực tế nơi rủi ro này trở nên cụ thể cho một doanh nghiệp?

Rủi ro như những rủi ro do OpenClaws gây ra trở nên cụ thể vào lúc các đại lý này được chuyển từ các nhiệm vụ bị cô lập sang các môi trường sản xuất thực tế, điều mà đã xảy ra.

Hầu hết các tổ chức tập trung vào việc đảm bảo rằng đúng người có thể truy cập vào một đại lý và đại lý hành động như mong đợi. Tuy nhiên, ít tổ chức hơn đang nghĩ về những gì xảy ra khi một đại lý bắt đầu tương tác với một đại lý khác.

Đó là nơi bề mặt tấn công mở rộng đáng kể. Một khi đầu ra từ một hệ thống, như tin nhắn Slack hoặc vé Jira, trở thành các kích hoạt cho các hành động trong một hệ thống khác. Lãnh đạo mất quyền kiểm soát các tương tác và không thể duy trì tính nhất quán về khả năng hiển thị và hồ sơ kiểm toán. Các đại lý này cũng đang kết nối đồng thời qua các API SaaS, nhiều trong số đó vẫn thiếu các cổng hoặc biện pháp bảo vệ bảo mật thích hợp.

Doanh nghiệp trung bình hiện đang chạy hàng trăm đại lý, con số đã tăng gần 100 lần trong năm qua. Khi các đội thực sự xem xét, 38% mang theo các yếu tố rủi ro trung bình, cao hoặc quan trọng, hầu hết không có chủ sở hữu được ghi chép, một số được xây dựng bởi các tài khoản không còn tồn tại, với các kết nối trực tiếp đến các hệ thống sản xuất và không có lịch sử thực hiện.

Đóng khoảng trống này đòi hỏi phải có khả năng hiển thị sâu bên trong các ứng dụng để hiểu rõ hơn về những gì các thông tin đăng nhập này có thể thực sự làm, trong mỗi hệ thống, đối với mỗi tập dữ liệu, cho mỗi người gọi tiềm năng. Không có bối cảnh phù hợp, bạn đang hoạt động với chỉ nửa bức tranh. Lãnh đạo cũng cần thay đổi chiến lược từ phát hiện sang thực thi thời gian chạy để chặn các hành động tại thời điểm thực hiện, trước khi hành động được hoàn thành, chứ không phải sau khi thiệt hại đã xảy ra.

Nhiều tổ chức tin rằng họ đã có bảo mật SaaS đầy đủ. Những giả định này bị phá vỡ ở đâu khi AI đại lý tham gia vào bức tranh?

Nhiều tổ chức tin rằng họ đã “giải quyết” bảo mật SaaS, nhưng giả định đó đang bị thách thức khi việc áp dụng AI đại lý tăng tốc. Bảo mật SaaS thường được coi là một hộp cần kiểm tra: ngân sách được phê duyệt, một công cụ được triển khai và vấn đề được coi là đã được xử lý. Trong thực tế, tuy nhiên, các API SaaS dướipinning các môi trường này không bao giờ được đưa dưới sự kiểm soát đầy đủ, chủ yếu vì có rất ít khả năng hiển thị doanh nghiệp vào những gì đang xảy ra tại lớp API và những gì tài sản SaaS đang nói chuyện với nhau.

Điều này tạo ra một điểm mù cấu trúc, nơi các doanh nghiệp có thể bảo mật danh tính và điểm cuối, nhưng họ thường thiếu cái nhìn rõ ràng về cách dữ liệu SaaS đang được truy cập và hành động khi các API được phát挥. Kết quả là, nhiều tổ chức vẫn đang hoạt động trên internet mở trực tiếp vào các hệ thống quan trọng mà không hiểu đầy đủ về quy mô hoặc hành vi của các tương tác dựa trên API xảy ra bên dưới.

AI đại lý hiện đang暴露 khoảng trống này, tạo ra thách thức nhanh hơn so với các đội có thể đóng lại, và trong khi làm như vậy, trở thành chất xúc tác cho cuộc trò chuyện API.

Làm thế nào các doanh nghiệp nên suy nghĩ lại quản trị khi đối mặt với các đại lý AI tự chủ có thể truy cập, di chuyển và hành động trên dữ liệu trên nhiều hệ thống?

Không có nhà lãnh đạo nào muốn làm chậm việc áp dụng AI ngay bây giờ, đặc biệt là khi áp lực tăng lên để di chuyển nhanh hơn hoặc hiển thị đầu ra có thể đo lường được, ngay cả khi tiêu thụ token được sử dụng trong các đánh giá. Trong nhiều trường hợp, các yêu cầu AI đến trực tiếp từ trên cao, với các CEO báo cáo tiến độ cho hội đồng quản trị hoặc thậm chí là các bên liên quan công khai, điều này chỉ làm tăng áp lực để áp dụng với tốc độ.

Vấn đề là các hệ thống đại lý không chờ đợi việc khắc phục. Chúng có thể khám phá các hệ thống, chuỗi hành động và thực hiện các công việc trên nhiều ứng dụng SaaS trong vài giây, thường hoàn thành mười hoặc nhiều bước trước khi một con người có thể phát hiện, chứ không nói đến can thiệp.

Đây là lý do tại sao quản trị không chỉ là về việc bắt các vấn đề sớm hơn trong chu kỳ phát triển, mà ngày càng kiểm soát tại thời điểm đại lý thực sự hành động. Các nhà lãnh đạo bảo mật không thể quản trị các đại lý một cách hiệu quả nếu kiểm soát chỉ xảy ra sau khi lạm dụng.

Trong một thế giới nơi các đại lý đang đưa ra quyết định tự chủ trên các hệ thống SaaS, cách tiếp cận duy nhất khả thi để bảo vệ chống lại các mối đe dọa được thúc đẩy bởi AI đại lý là thông qua Quản trị thời gian chạy. Cách tiếp cận này đòi hỏi phải di chuyển vượt ra ngoài việc phát hiện sau khi thực hiện, để phát hiện và chặn việc nâng cao đặc quyền, truy cập dữ liệu quá mức và vi phạm chính sách trước khi chúng có thể ảnh hưởng đến tổ chức. Những kiểm soát này phải được căn chỉnh với các tiêu chuẩn OWASP và các phương pháp hay nhất của ngành, đảm bảo rằng các đại lý hoạt động trong các ranh giới rõ ràng và có thể thực thi được – để các đội có thể theo kịp tốc độ áp dụng AI đại lý mà không ảnh hưởng đến sự đổi mới.

Từ quan điểm kỹ thuật, những điểm yếu bảo mật nào được AI đại lý giới thiệu trong các môi trường SaaS thường bị bỏ qua?

Khi các tổ chức áp dụng một công cụ SaaS mới, họ ngày càng phát hiện ra rằng chức năng AI đang được thêm hoặc kích hoạt默tắc theo mặc định. Vấn đề là những khả năng này thường không đi kèm với cùng mức độ kiểm soát cấu hình hoặc khả năng kiểm toán mà các đội bảo mật dựa vào cho các tính năng SaaS truyền thống. Kết quả là, khi một hành động được thực hiện, rất khó để phân biệt liệu nó được khởi xướng bởi một người dùng con người hay một đại lý tự chủ. Trong nhiều trường hợp, các doanh nghiệp không có tùy chọn tắt chức năng AI hoặc không thể tắt chức năng này vì các khả năng này được nhúng trong ứng dụng SaaS chính nó.

Sự模糊 này tạo ra một điểm mù lớn cho bảo mật và quản trị. Nếu một tính năng AI nhúng đang đưa ra quyết định thay mặt cho một người dùng, các tổ chức thường không có cách rõ ràng để theo dõi ý định, hiểu logic quyết định hoặc thậm chí xác nhận những gì đã kích hoạt một hành động cụ thể.

Rủi ro trở nên thậm chí còn lớn hơn khi bạn xem xét chuỗi cung ứng AI bên trong SaaS. Những khả năng AI nhúng này thường phụ thuộc vào các mô hình, dịch vụ và tích hợp của bên thứ ba. Nếu bất kỳ phần nào của chuỗi này bị xâm phạm, suy giảm hoặc thao túng, AI bên trong ứng dụng SaaS có thể biến các ứng dụng kinh doanh đáng tin cậy thành các tác nhân tham gia tích cực trong một đường dẫn tấn công.

Lớp AI bên trong SaaS đã thực sự trở thành chuỗi cung ứng của riêng nó và nó giới thiệu một lớp rủi ro mới cần được theo dõi và quản lý theo đúng cách.

Bạn đã làm việc rộng rãi về việc định lượng giá trị kinh doanh và rủi ro. Làm thế nào các tổ chức nên đo lường sự phơi nhiễm tài chính và danh tiếng liên quan đến các đại lý AI không được bảo mật?

Nếu một đại lý AI bị lạm dụng hoặc gây ra một sự cố, tác động ngay lập tức không chỉ là sự cố itu, mà còn là phản ứng của tổ chức sau đó. Sự kiện này sẽ làm chậm tốc độ mà công ty sẵn sàng áp dụng và mở rộng AI, vì các nhà lãnh đạo trở nên thận trọng hơn. Một khi niềm tin bị phá vỡ, nó trở nên khó khăn hơn nhiều để khởi động lại động cơ đổi mới đã thúc đẩy giá trị ban đầu.

Động lực đó mở rộng ra ngoài các đội nội bộ đến các bên liên quan bên ngoài. Hội đồng quản trị, khách hàng và cổ đông đều mong đợi việc triển khai có trách nhiệm và bất kỳ sự cố nào liên quan đến các đại lý tự chủ nhanh chóng trở thành vấn đề về trách nhiệm và danh tiếng. Khi bảo mật không được tích hợp vào thiết kế, các tổ chức bị buộc vào các cuộc trò chuyện phản ứng về kiểm soát và an toàn, điều này cuối cùng làm chậm việc ra quyết định trên toàn doanh nghiệp.

Cũng có một sự phơi nhiễm tài chính cơ bản thường bị bỏ qua. Khi bán kính phơi nhiễm của các đại lý AI tăng lên, các công ty có xu hướng trở nên bảo thủ hơn trong cách họ phân bổ vốn. Trong một số trường hợp, điều đó có nghĩa là giữ lại các quỹ hoặc trì hoãn đầu tư để bảo vệ chống lại các sự cố tiềm năng.

Trong trường hợp đó, việc bảo mật các đại lý AI trở thành ít hơn một bài tập giảm thiểu rủi ro thuần túy và nhiều hơn một cuộc trò chuyện về doanh thu và tăng trưởng. Các tổ chức có thể triển khai AI với niềm tin, biết rằng các đại lý được quản lý và chứa đựng, sẽ có thể di chuyển nhanh hơn, trong khi những tổ chức không có sự tự tin đó sẽ tự nhiên làm chậm lại. Trong năm 2026, khả năng kết hợp tốc độ với niềm tin đang trở thành một siêu năng lực.

Có một sự căng thẳng rõ ràng giữa việc áp dụng AI nhanh chóng và triển khai có trách nhiệm. Chiến lược cân bằng trông như thế nào cho các công ty muốn đổi mới mà không tăng hồ sơ rủi ro của họ?

Hiện tại, một trong những khoảng trống lớn nhất giữa việc áp dụng AI và triển khai có trách nhiệm là giao tiếp. Nhiều doanh nghiệp đang tích cực sử dụng AI trên các môi trường SaaS, nhưng họ không nhất quán trong việc có một cuộc trò chuyện rõ ràng và công khai về cách nó được sử dụng và những biện pháp bảo vệ nào đang được triển khai. Sự thiếu minh bạch này thực sự có thể làm tăng rủi ro, vì nó để lại khách hàng và đối tác giả định trường hợp xấu nhất thay vì hiểu các kiểm soát thực sự đang được triển khai.

Một cách tiếp cận cân bằng hơn coi việc sử dụng AI có trách nhiệm là một phần của giá trị đề xuất, không chỉ là một bài tập tuân thủ nội bộ. Có cơ hội cho các doanh nghiệp để rõ ràng hơn về cách AI được quản lý trong các môi trường của họ, bao gồm cả những gì nó có thể và không thể làm, cũng như những biện pháp bảo vệ nào tồn tại khi nó tương tác với các hệ thống nhạy cảm. Loại minh bạch đó xây dựng niềm tin để giúp mở rộng AI một cách an toàn.

Các công ty có thể rõ ràng và minh bạch về cách AI được sử dụng trên các môi trường SaaS của họ và chứng minh rằng nó được kiểm soát theo một cách có cấu trúc và có thể quan sát được, sẽ có thể đổi mới nhanh hơn mà không tăng rủi ro được nhận thức.

Làm thế nào các đội bảo mật nên thực hiện các bước ngay lập tức để tránh trở thành tiêu đề vi phạm bảo mật tiếp theo khi các doanh nghiệp đang thử nghiệm với AI đại lý?

AI đại lý không chỉ giới thiệu một lớp rủi ro mới, mà còn tăng tốc các rủi ro mà các tổ chức không thể thấy. Trên thực tế, shadow AI thêm 670.000 đô la vào chi phí vi phạm trung bình. Tuy nhiên, vấn đề gốc rễ là khả năng hiển thị. Khi các tổ chức không biết nơi AI đang được sử dụng hoặc nó đang tương tác với các hệ thống như thế nào, nó sẽ mất nhiều thời gian hơn để phát hiện và chứa các sự cố, trực tiếp làm tăng cả tác động tài chính và quy định.

Bước ngay lập tức đầu tiên là thiết lập khả năng hiển thị trên toàn doanh nghiệp. Các đội bảo mật cần có một bức tranh rõ ràng về cả việc sử dụng AI được chấp thuận và không được chấp thuận, không chỉ ở cấp ứng dụng mà còn trên các công việc nơi AI đang tích cực đưa ra hoặc ảnh hưởng đến quyết định.

Khi khả năng hiển thị tồn tại, sự tập trung chuyển sang dịch nó thành chính sách có thể thực thi được và nhúng nó vào các hệ thống nơi công việc thực sự xảy ra. Điều đó có nghĩa là phải đồng bộ hóa với doanh nghiệp về cách AI nên được sử dụng, sau đó chuyển từ tài liệu sang các kiểm soát kỹ thuật hoạt động trên các điểm cuối, nền tảng SaaS và hệ thống đại lý. Các kiểm soát càng được giới thiệu sớm vào đường thực hiện, khả năng xảy ra các sự cố tốn kém và khó chứa từ shadow AI và các đại lý tự chủ sẽ càng thấp.

Nhìn về tương lai, bạn thấy thế giới bảo mật sẽ phát triển như thế nào khi các hệ thống AI đại lý trở nên sâu sắc hơn trong cơ sở hạ tầng doanh nghiệp?

Các tổ chức sẽ cần bảo mật bản địa AI để giải quyết các mối đe dọa được thúc đẩy bởi AI. Những hệ thống này phải hoạt động ở tốc độ máy, cơ bản thay đổi các hoạt động bảo mật. Con người sẽ vẫn nằm trong vòng lặp, nhưng chuyển sang giám sát chiến lược, áp dụng bối cảnh và phán quyết mà AI vẫn thiếu.

Thay đổi đó cũng thay đổi cách các đội bảo mật được cấu trúc. Các đội có thể không thu hẹp lại, nhưng phạm vi của họ sẽ mở rộng đáng kể, với một chuyên gia bảo mật duy nhất chịu trách nhiệm cho một bề mặt lớn hơn nhiều thông qua tự động hóa và công cụ được thúc đẩy bởi AI.

Bổ sung, trong các môi trường đại lý, giám sát và phát hiện không đủ. Các tổ chức sẽ cần phải triển khai các cơ chế thực thi thực sự. Điều đó có nghĩa là xây dựng các hệ thống hoạt động như các công tắc: khả năng bật hoặc tắt các khả năng, hạn chế hành vi trong thời gian thực và cô lập các hệ thống đang hành xử sai hoặc có thể làm tổn hại đến toàn bộ doanh nghiệp. Rủi ro chuỗi cung ứng trong AI đơn giản là quá lớn để không có các kiểm soát giống như công tắc được nhúng vào kiến trúc.

Nhìn về tương lai, AI sẽ tiếp tục tăng tốc có thể vượt quá tốc độ và khả năng của con người. Nhưng cuộc trò chuyện không thể tập trung vào rủi ro một mình; nó cũng phải bao gồm cơ hội. Giống như việc nuôi dạy trẻ em, AI sẽ phát triển và mắc lỗi, nhưng nó cũng có khả năng vượt qua chúng ta. Những người chiến thắng sẽ là những người chấp nhận AI ở quy mô lớn trong khi xây dựng các hệ thống kiểm soát cần thiết để triển khai nó một cách an toàn và có niềm tin.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Obsidian Security.