Phần mềm là chính trị: Làm thế nào sức mạnh của công nghệ có thể được giải trình

 Năm 2016 là năm không thể bỏ qua những tác động của phần mềm quyền lực đối với xã hội. Hôm nay, vào năm 2018, chúng ta có thể bắt đầu xác định các công ty và tổ chức đang đưa quyền lực trở lại tay người tiêu dùng.

Phần mềm là chính trị: Làm thế nào sức mạnh của công nghệ có thể được giải trình

[Hình ảnh nguồn: Federica Galli / Unsplash (ảnh), Vanzyst / iStock (mẫu)]

HƠN NHƯ THẾ NÀY

11 doanh nghiệp thuộc sở hữu của người da đen nên mua từ Thứ Sáu Đen này

Hà Lan đang biến những chiếc gạt tàn cũ thành trạm sạc xe đạp

Bên trong cuộc chạy đua cứu Nhà thờ Đức Bà

BỞI GIÁO HOÀNG RICHARD9 PHÚT ĐỌC

Phần mềm là chính trị . Tôi đã viết điều đó vào năm 2016, lập luận rằng các dịch vụ kỹ thuật số mà tất cả chúng ta dựa vào không nên chỉ được thiết kế để dễ sử dụng – chúng cũng cần phải dễ hiểu, có trách nhiệm và đáng tin cậy.

Việc xem phần mềm là chính trị hơn là công nghệ và còn hơn là đạo đức. Đó là về ý tưởng rằng, nếu chính trị là về sự phân bổ quyền lực trong xã hội, thì phần mềm vốn là chính trị. Quyền lực đó được quản lý như thế nào và những lựa chọn về người mà nó được đưa vào hoạt động là những câu hỏi chính trị của thời đại chúng ta.

Nếu năm 2016 là năm không thể bỏ qua các tác động của phần mềm quyền lực đối với xã hội, thì hôm nay, năm 2018, chúng ta có thể bắt đầu xác định một số tín hiệu về đòn bẩy kiểm soát có thể là gì. Có lý do gì để lạc quan không? Những công ty nào đang sử dụng niềm tin như một lợi thế cạnh tranh? Những tổ chức nào đang cho thấy sức mạnh của công nghệ có thể được tính đến như thế nào? Dưới đây là sáu chủ đề đang nổi lên:

[Hình ảnh: Vanzyst / iStock]

NIỀM TIN, LỢI THẾ CẠNH TRANH VÀ SỨC MẠNH CỦA THỊ TRƯỜNG

Nghiên cứu của Kelly Martin, Abhishek Borah và Robert Palmatier  được công bố trên Tạp chí Harvard Business Review đã phát hiện ra rằng vi phạm dữ liệu có ảnh hưởng gợn sóng - nếu một công ty trong ngành bị vi phạm dữ liệu, thì những người khác trong ngành đó cũng sẽ cảm thấy ảnh hưởng của nó đối với tài chính của họ . Các nhà nghiên cứu cũng phát hiện ra rằng các công ty có thể giảm thiểu rủi ro đó khi họ minh bạch về cách họ sử dụng dữ liệu và cho phép người dùng kiểm soát dữ liệu của họ.

Điều này đặt ra một câu hỏi quan trọng: Làm thế nào để các nhà đầu tư - những người nắm quyền tối cao đối với doanh nghiệp nào tăng và doanh nghiệp nào sụp đổ - hiểu được công ty có phải là rủi ro hay không?

Có thể có một số điểm tương đồng ở đây với Dự án Công bố Các-bon (CDP). CDP thu thập và chuẩn hóa dữ liệu về tác động môi trường của các công ty. Các nhà đầu tư sử dụng dữ liệu đó để đưa ra các quyết định đầu tư có đạo đức hoặc quản lý rủi ro; các nhà quản lý sử dụng nó để đưa ra luật tốt hơn. Có thể các nhà đầu tư sẽ bắt đầu đánh giá rủi ro bằng cách tham khảo các sáng kiến ​​minh bạch như Xếp hạng quyền kỹ thuật số  và Điều khoản dịch vụ chưa đọc.  Xét về khía cạnh logic, chỉ những công ty minh bạch mới nhận được tài trợ, và những công ty không minh bạch sẽ chùn bước, nâng cao các dịch vụ có sẵn cho người tiêu dùng nói chung.

[Hình ảnh: Vanzyst / iStock]

KIỂM TOÁN VÀ MINH BẠCH

Lấy cảm hứng từ các cuộc điều tra của ProPublica về các thuật toán thiên vị , chính quyền thành phố New York đã thông qua luật giải trình về thuật toán và thành lập một lực lượng đặc nhiệm nhằm mang lại sự minh bạch và trách nhiệm giải trình cho việc ra quyết định tự động của các cơ quan của thành phố.

Điều đáng khích lệ về điều này là sáng kiến ​​đến, không phải từ một nhóm vận động, mà từ một chính trị gia đang phục vụ, James Vacca , chủ tịch Ủy ban Công nghệ của thành phố. Tính minh bạch hiện là một vấn đề quan trọng hàng đầu.

Tuy nhiên, tính minh bạch không chỉ được áp dụng bởi khu vực công, như nhà cung cấp VPN của Canada TunnelBear đã cho thấy khi công bố kết quả của một cuộc kiểm tra bảo mật độc lập .

Ý tưởng đằng sau cuộc kiểm tra của TunnelBear là tiết lộ cho người dùng biết rằng công ty có thể được tin cậy so với các đối thủ cạnh tranh trong lĩnh vực có vấn đề về lòng tin nghiêm trọng .

Cũng có một số cách tiếp cận kỹ thuật hấp dẫn đối với thiết kế minh bạch. Để chọn chỉ hai:

Code Keeper là một dịch vụ mới để tạo các thỏa thuận ký quỹ cho mã, chỉ định các trường hợp pháp lý mà mã nguồn có thể được truy cập. Trọng tâm chính của dự án là cho phép truy cập vào mã nguồn khi một công ty phá sản. Nhưng tôi tự hỏi nếu nó cũng có thể được sử dụng để cho phép truy cập vào mã nguồn để kiểm tra?

Google đang làm việc trên cơ sở dữ liệu về Tính minh bạch chung có tên là Trillian. Dựa trên những ý tưởng tương tự như hệ thống chứng chỉ SSL phi tập trung  Tính minh bạch của Chứng chỉ , ý tưởng là giúp dễ dàng tạo tập dữ liệu - giả sử danh sách các thay đổi đối với điều khoản dịch vụ của một công ty. Đổi lại, tính toàn vẹn của tập dữ liệu đó có thể được xác minh độc lập.

[Hình ảnh: Vanzyst / iStock]

CHỨNG NHẬN VÀ TIÊU CHUẨN

Internet of Things gần đây đang bị giám sát chặt chẽ, vì các mạng botnet, vi phạm dữ liệu và an toàn kém luôn xuất hiện trên các mặt báo. Nhưng có hai điều được Quỹ Mozilla đưa ra vào cuối năm 2017 cho thấy thị trường thiết bị kết nối có thể chuyển sang ưu tiên sự an toàn của người tiêu dùng như thế nào.

Đầu tiên là hướng dẫn mua quyền riêng tư , bản đánh giá trước Giáng sinh về các thiết bị được kết nối phổ biến nhất, so sánh mức độ an toàn và bảo vệ tương đối của từng nền tảng. Hy vọng rằng nhiều trang web đánh giá người tiêu dùng chính thống như Wirecutter và các thị trường như Amazon sẽ lấy ý tưởng và thực hiện với nó.

Báo cáo thứ hai là một báo cáo mà Mozilla ủy quyền từ Thingscon, khám phá các tùy chọn cho một dấu tin cậy cho IoT . Báo cáo khuyến nghị xây dựng dựa trên công việc mà dự án #iotmark có trụ sở tại Vương quốc Anh đã thực hiện để phát triển một nhãn hiệu chứng nhận mở cho một bộ nguyên tắc tối thiểu mà các thiết bị được kết nối phải đáp ứng.

Đồng thời , Doteveryone , công ty vận động cho một internet công bằng hơn, đã xem xét khái niệm về dấu tin cậy cho các dịch vụ kỹ thuật số .

Riêng biệt, chúng tôi đã thấy các sáng kiến ​​dựa trên tiêu chuẩn khác bắt đầu xuất hiện xung quanh quyền kỹ thuật số. Báo cáo Người tiêu dùng đã công bố Tiêu chuẩn kỹ thuật số vào năm 2017, báo hiệu một kỷ nguyên mới cho các tổ chức thử nghiệm và vận động. Khung kiểm tra một phần, chương trình chứng nhận một phần, đó là một nguồn tài nguyên tuyệt vời cho bất kỳ ai đang phát triển các sản phẩm kỹ thuật số hỏi: “Điều tôi đang làm có đúng không?”

Thời gian sẽ trả lời liệu nhãn hiệu và chứng nhận có phải là cách hiệu quả để đảm bảo an toàn cho các thiết bị được kết nối hay không, nhưng đó là một sự phát triển đáng khích lệ.

[Hình ảnh: Vanzyst / iStock]

PHÂN CẤP MÁY HỌC

Các thuật toán học máy, thay vì được lập trình rõ ràng, được đào tạo bằng cách sử dụng dữ liệu. Nói một cách thô thiển, càng có nhiều dữ liệu, họ càng thông minh hơn. Khi nói đến dữ liệu về con người, điều này đặt ra một thách thức rõ ràng về quyền riêng tư: sự đánh đổi để có phần mềm tốt hơn là các bộ dữ liệu tập trung, nhạy cảm hơn.

Máy ảnh Clips của Google là máy ảnh không dây luôn bật sử dụng máy học để quyết định chụp ảnh. Thay vì tải ảnh lên máy chủ trung tâm để phân loại, tất cả đều diễn ra cục bộ. Giả thuyết, có lẽ là mọi người có nhiều khả năng tin tưởng vào một chiếc máy ảnh luôn bật nếu nó giữ lại những gì nó đang thấy cho chính nó.

Cả Google và Apple gần đây đã giới thiệu các sản phẩm sử dụng “quyền riêng tư khác biệt”, một kỹ thuật cho phép các dịch vụ học hỏi từ hành vi của các nhóm người dùng mà không tiết lộ bất kỳ điều gì về bất kỳ cá nhân nào.

Apple đã sử dụng kỹ thuật này để thêm các từ mới vào chức năng tự động sửa bàn phím của iOS . Google đã và đang sử dụng kỹ thuật này kết hợp với công nghệ máy học được liên kết để hiểu cách đưa ra các đề xuất tốt hơn trong bàn phím Gboard trong Android. Không có cái nào đại diện cho một viên đạn ma thuật. Và có những câu hỏi về việc triển khai chính xác quyền riêng tư khác biệt . Cũng có một rủi ro là, mặc dù việc học được phân cấp, việc kiểm soát và việc học vẫn được tập trung hóa – chỉ Google và Apple mới có thể chạy các thử nghiệm như thế này. Hơn nữa, còn có một vấn đề là ai sẽ xác minh những lời hứa mà họ đang đưa ra?

Những mối quan tâm này sang một bên, dữ liệu phi tập trung và học bản địa hóa đại diện cho một sự thay đổi rất rõ ràng trong cách tiếp cận so với các dịch vụ đám mây ngày nay. Sẽ rất thú vị để xem những gì xảy ra tiếp theo.

[Hình ảnh: Vanzyst / iStock]

THAY ĐỔI CÁCH SẢN XUẤT SẢN PHẨM

Cách phần mềm được tạo ra có ảnh hưởng đến những gì phần mềm được tạo ra.

Gần đây, chúng tôi đã thấy nhiều sáng kiến ​​khác nhau nhằm giúp các nhà phát triển và nhà thiết kế dễ dàng làm điều đúng đắn hơn khi tạo ra các sản phẩm tôn trọng quyền và sự an toàn của người dùng.

GitHub đã thông báo rằng họ sẽ bắt đầu thông báo cho các nhà phát triển khi các dự án của họ có những phụ thuộc không an toàn .

Các Đơn giản chỉ cần an toàn dự án đã cung cấp giáo dục chuyên nghiệp cho các nhà thiết kế trải nghiệm người dùng, các nhà nghiên cứu, và các nhà phát triển làm việc trên sự riêng tư, an ninh, tính minh bạch và đạo đức.

Tại IF , nơi tôi là giám đốc điều hành, chúng tôi đã cập nhật Danh mục quyền dữ liệu nguồn mở của mình , chúng tôi hy vọng sẽ biến nó thành tài nguyên hữu ích hơn cho các nhà thiết kế xây dựng dịch vụ cần người dùng cho phép truy cập dữ liệu.

Ngày càng có nhiều lời kêu gọi bổ sung các mô-đun đạo đức vào các văn bằng khoa học máy tính, và Harvard và MIT đã bắt đầu cung cấp một khóa học cho sinh viên của họ đặc biệt về đạo đức và quy định của trí tuệ nhân tạo .

[Hình ảnh: Vanzyst / iStock]

QUY ĐỊNH DỮ LIỆU MỚI

Những người trong số các bạn sống bên ngoài châu Âu có thể không nghe nói về GDPR . GDPR là viết tắt của “Quy định chung về bảo vệ dữ liệu” và đây là bộ quyền và quy định mới của EU về cách xử lý dữ liệu cá nhân. Nó bao gồm một loạt các quyền kỹ thuật số và cấp các mối đe dọa tài chính khổng lồ chống lại các công ty không tuân thủ. Các quyền mới này sẽ giúp mọi người dễ dàng hiểu và kiểm soát cách dữ liệu về chúng được sử dụng, xem ai đang sử dụng nó và làm điều gì đó nếu họ không hài lòng với những gì đang diễn ra.

Các công ty, cho dù họ có trụ sở ở đâu, đều phải đối mặt với lựa chọn đáp ứng các quy định hoặc có nguy cơ bị loại khỏi thị trường châu Âu. Do đó, GDPR có thể trở thành tiêu chuẩn toàn cầu trên thực tế để bảo vệ dữ liệu.

Thay vì gánh nặng về quy định, đây là cơ hội lớn để các công ty thể hiện mức độ tin cậy của họ đối với dữ liệu của người dùng. (Ví dụ: Viện Dữ liệu Mở đã viết về những gì có thể trông như thế nào đối với lĩnh vực bán lẻ.)

Ngoài GDPR, vào tháng 1, sau nhiều năm vận động hành lang và hoạt động, Tiêu chuẩn Ngân hàng Mở đã được giới thiệu tại Vương quốc Anh. Tiêu chuẩn này được thiết kế để tạo điều kiện thuận lợi cho một loạt các dịch vụ và ứng dụng ngân hàng mới. Có một số rủi ro tiềm ẩn, nhưng với thiết kế tốt, nó có khả năng trao quyền cho khách hàng bằng cách cho phép họ sử dụng lại dữ liệu do ngân hàng của họ nắm giữ cho các mục đích khác - ví dụ chia sẻ dữ liệu với kế toán hoặc chứng minh thu nhập.

Ngoài cơ hội chuyển đổi thị trường, GDPR và các sáng kiến ​​như Tiêu chuẩn ngân hàng mở đại diện cho cơ hội giáo dục mọi người về dữ liệu – cung cấp cơ chế giải trình và minh bạch hoàn toàn mới – và tạo ra một cuộc tranh luận công khai lành mạnh hơn về dữ liệu nào không nên được thu thập ngay từ đầu .

[Hình ảnh: Vanzyst / iStock]

CHÚNG TA GỌI THỨ NÀY LÀ GÌ?

Tôi lạc quan về nơi chúng tôi đang hướng tới. Các công ty đang phát triển danh tiếng - tốt và xấu - về cách họ xử lý dữ liệu. Các cơ quan quản lý bắt đầu bắt người dân phải chịu trách nhiệm về những quyết định ảnh hưởng đến cuộc sống của người dân. Công nghệ mới và các nguồn dữ liệu mở mới sẽ giúp các công ty dễ dàng minh bạch và có trách nhiệm hơn. Ngày càng có nhiều người trong lĩnh vực công nghệ quan tâm đến đạo đức và trách nhiệm .

Và một khi mọi người quen với việc có các quyền kỹ thuật số mới, chúng ta sẽ mong đợi nhiều hơn thế. Đây là một cơ hội lớn cho các tổ chức có các chiến lược và chính sách kỹ thuật số trao quyền cho người dùng.

Tuy nhiên, tôi vẫn băn khoăn một điều là: Các ví dụ mà tôi đã liệt kê ở đây bao gồm các quy định mới, công nghệ, mẫu thiết kế, phát triển chuyên môn, công cụ, khuôn khổ đạo đức, tiêu chuẩn và thực tế thị trường. Điều gắn kết họ với nhau là tất cả đều có thể đóng góp một phần trong việc đảm bảo rằng nhiều sản phẩm và dịch vụ mà chúng ta tin tưởng sẽ tôn trọng nhiều hơn các quyền mà chúng ta có.

Điều này đặt ra câu hỏi: Tên của lĩnh vực chính trị phần mềm mới nổi này là gì? Nó cảm thấy như nó nên có một. Tên rất hữu ích.

Mặc dù nó bao gồm một số yếu tố bảo mật, nhưng nó chắc chắn giống như một lĩnh vực khác. “Công nghệ có trách nhiệm” hoặc “Đạo đức kỹ thuật số” nêu rõ mục đích, nhưng không thực sự dành chỗ cho thực tế kinh doanh về “niềm tin như một lợi thế cạnh tranh”.

“Phi tập trung” đang nhanh chóng trở nên mất giá vì nó được sử dụng liên quan đến các công nghệ như blockchain. Câu trả lời trên một bưu thiếp. Hoặc có thể nó không cần một cái tên mới. Có lẽ đó chỉ là chính trị.