Kỹ Thuật Là Ánh Sáng Ở Đầu Cùng Của Hộp Đen

Nó chưa bao giờ dễ dàng như vậy để xây dựng, triển khai và mở rộng công nghệ mà không cần hiểu rõ về cách nó hoạt động. Hầu như mọi thứ ngày nay đều hoạt động mà không cần chúng ta phải hiểu về nó. Tuy nhiên, vẫn còn một cảm giác không ngừng rằng kiểm soát đang trượt khỏi tầm tay chúng ta.

Nếu bạn nhìn kỹ, điều đang thiếu sót ngày nay là điều gì đó từng là trung tâm của mọi đổi mới vĩ đại, và giờ đang dần biến mất khỏi bức tranh công nghệ – đó là kỹ thuật. Mỗi đổi mới đều mang dấu ấn của sự chú ý cẩn thận. Ai đó đã tham gia sâu sắc để hiểu về sự phụ thuộc, hành vi và hạn chế, và chuyển đổi kiến thức đó thành một hệ thống hoạt động. Cắt đến hiện tại, các công cụ và nền tảng cung cấp năng lượng cho cuộc sống hàng ngày của chúng ta đến với chúng ta đã được xây dựng sẵn và lắp ráp đầy đủ, nhanh chóng đến không thể tin được, nhưng với hầu như không có khả năng nhìn thấy vào hoạt động bên trong của chúng.

Kỹ thuật đã bắt đầu cảm thấy không phù hợp, hoặc đúng hơn, là một điều cực đoan trong một văn hóa bị ám ảnh bởi tốc độ. Nếu không có nó, tuy nhiên, các hệ thống có nguy cơ trở thành một xoáy của các sự kiện: một hộp đen nơi các quyết định, đầu ra và hành vi diễn ra nhanh hơn bất kỳ ai có thể hiểu đầy đủ. Việc khơi dậy lại kỹ thuật là một cách để kéo lại một số kiểm soát đó, khôi phục lại khả năng suy luận về sự phức tạp và chịu trách nhiệm trong một thế giới được cấu hình lại bởi AI.

Collaboration có thể phát triển mạnh mà không cần sở hữu?

Có một thời gian khi người xây dựng một hệ thống biết nó từ trong ra ngoài. Ngày nay, công việc được chia thành những đóng góp nhỏ, làm loãng cảm giác sở hữu, thường đến mức không ai tham gia hiểu rõ toàn bộ. Các đội đóng góp những mảnh chuyên biệt vào một hệ thống lớn hơn, tích hợp các thư viện, API, dịch vụ đám mây, cơ sở dữ liệu được quản lý và các nền tảng phân tích vào một sản phẩm hoạt động. Irony thay, phần mà đội trực tiếp sở hữu thường nhỏ hơn các lớp được quản lý bởi các nhà cung cấp bên ngoài.

Focus vào việc thực hiện hơn kỹ thuật giới thiệu các điểm mù mà có thể tích lũy âm thầm trên các lớp của hệ thống. Một yêu cầu đơn lẻ di chuyển qua nhiều dịch vụ, nhà cung cấp và khu vực trước khi trả về một phản hồi. Mọi thứ hoạt động đủ tốt cho đến khi một sự không phù hợp tinh tế giữa các lớp này tiết lộ rằng không ai thực sự có sự rõ ràng hoặc kiểm soát. Vấn đề không kết thúc với việc sửa một thành phần bị lỗi mà bắt đầu từ việc giải thích những gì đã đi sai từ đầu.

Collaboration thực sự là động cơ của phần mềm hiện đại, cho phép các đội xây dựng hệ thống ở quy mô mà không một cá nhân nào có thể quản lý alone. Khi các công cụ mới tham gia vào, đặc biệt là với AI, nhiều công việc có thể được song song hóa và nhiều quyết định được tự động hóa hoặc hỗ trợ, tăng tốc thực hiện và mở rộng sự tham gia. Nhưng nó cũng kéo dài sự hiểu biết. Khi các công cụ trừu tượng cao cấp điều khiển các quyết định, tạo mã hoặc giải thích dữ liệu, hành động có xu hướng vượt qua sự hiểu biết. Sau tất cả, nếu bạn không thể giải thích cách một hệ thống hoạt động, bạn có thể tin tưởng vào các quyết định mà nó đưa ra?

Một hệ thống bạn hiểu là một hệ thống bạn có thể chịu trách nhiệm

Kỹ thuật không phải là từ chối hợp tác hoặc tiềm năng không thể chối cãi của AI, mà về việc duy trì một mối quan hệ với hệ thống vượt ra ngoài việc thực hiện. Đó là về việc tạo ra sự liên tục trong các môi trường mà công việc bị phân mảnh và bảo tồn khả năng suy luận về hành vi trên các lớp chứ không chỉ trong chúng. Trong các quy trình làm việc hiện đại, kỹ thuật cuối cùng phụ thuộc vào việc nuôi dưỡng có chủ đích khả năng này để suy luận ngay cả khi không có bằng chứng thuyết phục nào cho thấy có điều gì đó sai. Nó cho phép các đội di chuyển nhanh chóng trong khi vẫn biết họ đang xây dựng, tại sao nó lại hành xử theo cách đó và làm thế nào để phản ứng khi nó không.

Chỉ có sự hiểu biết này mới có thể ngăn chặn các hệ thống AI trở thành hộp đen. Điều quan trọng là, AI khuếch đại những gì bạn đã biết và những gì bạn không biết. Khi nền tảng của bạn được xây dựng trên kỹ thuật, AI mở rộng tầm nhìn và củng cố sức mạnh, nhưng nếu không, nó sẽ làm tăng sự hiểu lầm và nhầm lẫn. Các quyết định tự động dựa trên các giả định sai, dữ liệu thiên vị hoặc các mô hình không được hiểu rõ có thể ảnh hưởng đến tài khoản, quyền riêng tư và niềm tin của mọi người. Điều mà trước đây có thể là một lỗi hoặc một sự xem xét nhỏ có thể tạo ra những hậu quả rộng lớn gần như ngay lập tức, nhờ vào sự kết nối mà chạm vào mọi khía cạnh của cuộc sống.

Chi phí thực sự của việc làm phẳng các đường cong học tập

Các đường cong học tập đang được làm phẳng một cách hung hãn đến mức sự phụ thuộc đã bắt đầu trông giống như hiệu quả. Điều quan trọng là phải thận trọng với sự đánh đổi này. Phần lớn tốc độ mà làm cho công việc cảm thấy nhanh hơn đến từ việc dựa vào các công cụ và trừu tượng hóa hơn là sự hiểu biết sâu sắc. Nếu thời gian và công sức tiết kiệm được phải trả lại trong những hậu quả không lường trước, nó có thể nhanh chóng trở nên phản tác dụng.

Bây giờ, đây không phải là một lập luận cho việc làm cho mọi thứ khó khăn hơn mức cần thiết khi các phương pháp đơn giản và các công cụ mạnh mẽ tồn tại. Nhưng việc bỏ qua một cách vô tư các đường cong này loại bỏ cơ hội để thực sự hiểu cách một hệ thống hoạt động, nơi các điểm yếu nằm và cách các quyết định lan truyền qua hệ thống. Sự cám dỗ của việc làm biến mất sự phức tạp là cám dỗ, nhưng sự phức tạp không đơn giản biến mất với một cú nhấp chuột. Điều nó làm là di chuyển ra khỏi tầm nhìn, để lại những rủi ro ẩn mà chỉ xuất hiện khi có điều gì đó đi sai.

Sự hiệu quả thực sự đến từ việc cân bằng việc sử dụng các công cụ hiện đại với nỗ lực để hiểu, phán đoán và kỹ thuật, để tốc độ và sự đơn giản không phải trả giá bằng sự vững chắc hoặc trách nhiệm. Tiếp cận các công nghệ mới với sự hiểu biết về cả những gì chúng có thể làm và những gì chúng không thể. Nếu không có sự hiểu biết này, các đội mất khả năng thích nghi hoặc phát triển hệ thống một cách an toàn. Các thay đổi có thể làm hỏng các phần của hệ thống mà không được hiểu rõ. Sự phán đoán bị ảnh hưởng khi sự phụ thuộc vào các công cụ, mặc định hoặc tự động hóa thay thế sự trực giác thông minh. Điều này, đến lượt, làm giảm khả năng đưa ra quyết định khôn ngoan trong sự không chắc chắn. Khả năng giải thích cũng giảm, trong khi sự vững chắc theo sát sự thành thạo vào sự quên lãng. Hiệu quả không bao giờ được dự định là giòn như vậy.

Kỹ thuật kỹ thuật trông như thế nào trong thực tế

Kỹ thuật trở nên rõ ràng trong cách các đội, sản phẩm và lãnh đạo xử lý sự phức tạp. Khi các đội chịu trách nhiệm về việc hiểu các hệ thống họ phụ thuộc vào, thay vì giả định rằng các nhà cung cấp xử lý tất cả sự phức tạp, họ vẫn đi trước các vấn đề. Các sản phẩm được xây dựng với kỹ thuật được xây dựng để tồn tại, phát triển và thích nghi. Việc đào tạo nhấn mạnh vào việc tìm kiếm nguyên nhân, đặt câu hỏi về các giả định và xây dựng các giải pháp trực giác đảm bảo rằng việc học tập được nhúng và bền vững.

Tóm lại, khả năng thực hiện sự phán đoán hợp lý và bảo tồn khả năng giải thích là điều sẽ phân biệt các sản phẩm tuyệt vời với những sản phẩm chỉ hoạt động. Trong các hệ thống phức tạp và liên kết, sự trực giác và thành thạo của con người phải hướng dẫn công nghệ, không phải ngược lại. Điều quan trọng là phải nhớ rằng trong khi bạn có thể outsource gần như mọi thứ, sự phân biệt vẫn không phải là một trong số đó.