AI đã quá phức tạp, nhà chế tạo cũng không hiểu lý do nó đưa ra từng lựa chọn

AI đã quá phức tạp, nhà chế tạo cũng không hiểu nguyên do nó đưa ra từng lựa chọn


Thành Đô •Thứ sáu, 15/12/2017


Chia sẻ FBChia sẻ TwitterBình luậnTrí tuệ nhân tạo (AI) đã len vào mọi ngóc ngách trong cuộc sống hiện đại. Nó có thể tag bạn bè trên ảnh Facebook hay là lựa chọn thứ tự ảnh mà bạn nhìn thấy ở trên Instagram. Còn các nhà khảo sát , và nhà khoa học vật liệu của NASA cũng đang bắt đầu dùng công nghệ này trong việc thăm dò không gian.1 bức ảnh cơn bão sao Mộc (NASA/JPL-Caltech/SwRI/MSSS))Tuy vậy, cho dù đã được sử dụng trong mạng xã hội hay là khám phá sao Hỏa thì có một vấn đề căn bản ở đây: các lập trình viên gây ra trí tuệ nhân tạo chưa hiểu cách chúng ra quyết định. Vì sao chúng quyết định thế này mà chưa phải thế khác?Trí tuệ nhân tạo vẫn còn khá mới mẻ. Những công ty công nghệ lớn mới chỉ tăng cường đầu tư vào lĩnh vực này trong 5 năm qua. Lý thuyết về trí tuệ nhân tạo đã tồn tại nhiều thập niên, nhưng mãi đến năm 2012 thì người ta mới có thể biến nó thành hiện thực. Lấy cảm hứng từ não người, người ta tạo một mạng nơ-ron nhân tạo dựa trên nhiều lớp hàng nghìn hàng triệu liên kết giữa các “nơ-ron”, hay còn gọi chính là các khối tính toán toán học nhỏ, giống như mối liên kết giữa các nơ-ron trong bộ não người. Nhưng kiến trúc phần mềm ấy cũng có mặt trái của nó: Vì những biến trải qua hàng triệu các mối liên kết ấy là quá phức tạp , vi tế, nên các nhà khảo sát chưa thể xác định chính xác điều gì đang diễn ra. Họ chỉ biết kết quả đầu ra chính là dùng được.Tại hội thảo Hệ thống Xử lý Thông tin Nơ-ron diễn ra vào ngày 7/12 tại Long Beach, California, hội thảo hàng năm có sức tác động lớn số 1 , nhiều người tham dự nhất về AI, hàng trăm các nhà điều tra trong giới học thuật , và công nghệ đã mắc mặt để bàn về vấn đề này. Các nhà khảo sát nói với trang tin Quartz rằng hiện giờ mọi người cần hiểu cách mà máy móc đưa ra quyết định, trước khi công nghệ này trở nên tràn lan , và mất kiểm soát. “Chúng ta không muốn chỉ biết chấp nhận chứ không hiểu những quyết định tùy tiện, cho dù quyết định đó chính là của người hay AI,” nhà điều tra AI của Uber, Jason Yosinkski nói, “Để mô hình máy học có thể đã được xã hội chấp nhận, mọi người cần phải biết chúng đưa ra quyết định như thế nào.” Vì người ta đã bắt đầu ứng dụng mạng nơ-ron nhân tạo này trong việc thi hành luật pháp, chăm sóc sức khỏe, khảo sát khoa học, và giúp cho Facebook chọn tin để hiển thị bạn, nên các nhà điều tra nói rằng có vấn đề với cái gọi là “hộp đen” của AI. Theo các nghiên cứu trước đây, các thuật toán đã phóng đại những thiên kiến trong dữ liệu mà chúng học, , và vô tình tạo ra những liên kết giữa các ý tưởng. Vì dụ khi Google cho một AI tạo ra hình ảnh “tạ tay” từ những dữ liệu mà nó đã thấy, thì những chiếc tạ này đều có cánh tay nhỏ dính ở trên tay cầm. Thiên kiến như vậy thì chưa có tác hại gì cho lắm, nhưng khi liên quan đến chủng tộc, giới tính thì mọi chuyện cũng sẽ không còn nhẹ nhàng như thế nữa. “Khi máy học đã trở nên thịnh hành trong xã hội, , và khi mọi chuyện tiến triển xa hơn nữa, thì người ta bắt đầu nhận ra rằng chúng ta chưa thể coi những hệ thống này là hoàn hảo , và luôn luôn đúng, hay coi chúng như những cái hộp đen hoàn toàn công minh.” Hanna Wllach, một nhà khảo sát lâu năm ở Micorsoft và chính là người diễn thuyết ở buổi hội thảo, chia sẻ với trang Quartz, “Chúng ta cần phải hiểu điều gì đang diễn ra bên trong AI và hiểu chúng được dùng thế nào.”>> Trí tuệ nhân tạo xử lý hình ảnh: Biến đêm thành ngày, tạo khuôn mặt như thật


Quan ngại khi dùng AI trong các công việc trọng yếu


Trong phòng thí nghiệm Jet Propulsion (JPL) của NASA, trí tuệ nhân tạo giúp xe thám hiểm sao Hỏa có thể vận hành bán tự động khi khám phá bề mặt của một hành tinh lạ. AI cũng được dùng để rà soát qua hàng nghìn bức ảnh chụp đến từ xe thám hiểm sao Hỏa. Ông Kiri Wagstaff, một nhà khảo sát AI của JPL diễn thuyết ở hội thảo, nói rằng ta cần phải hiểu AI trước khi sử dụng nó, vì rủi ro của các quyết định ngoài chưa gian vũ trụ chính là quá cao. “Một tàu vũ trụ quay xung quanh sao Hỏa sẽ ở cách chúng ta 200 triệu dặm, , tốn hàng trăm triệu, thậm chí hàng tỷ đô la để đưa được nó lên đó. Nếu có gì trục trặc thì coi như xong. Không có cách nào để sửa chữa hay thay thế, trừ khi bỏ ra một số tiền khổng lồ,” Wagstaff nói. “Tại sao họ lại tin tưởng cho nó điều khiển xe thám hiểm hay tàu vũ trụ bay xung quanh sao Hỏa khi không hiểu được cách nó ra quyết định?” – WagstaffWagstaff đang tham gia dự án chế tạo AI có thể phân loại các bức ảnh mà tàu vũ trụ của NASA chụp được trong vũ trụ. Vì có đến hàng triệu bức ảnh, nên nếu có một AI nhặt ra những bức ảnh thú vị thì cũng sẽ tiết kiệm đã được rất nhiều thời gian, Tuy nhiên chỉ khi AI hiểu thế nào chính là một bức ảnh “thú vị”. Đối với Wagstaff, để có thể tạo được thuật toán đúng thì phải hiểu AI cũng sẽ tìm kiếm điều gì. Nếu có một lỗi trong việc nó học cách rà soát qua các bức ảnh, những dữ liệu trị giá hàng triệu USD sẽ bị lãng phí.>> Người thông minh , và người trí tuệ chính là không cùng cảnh giớiÔng Wagstaff nói: “Máy tính chỉ đưa ra một tấm ảnh , và bảo bạn rằng bức ảnh này thú vị, còn bạn chưa trực tiếp xem hết mấy triệu bức ảnh ấy, bạn chưa biết vì sao bức ảnh kia thú vị, vì sao nó đã được chọn. Liệu có phải vì màu sắc, vì hình dạng hay vì sự sắp đặt của các vật thể trong khung cảnh?”


Vẫn có cách để hiểu AI hoạt động thế nào


(ảnh: Shutterstock)Một câu hỏi đặt ra chính là liệu các chuyên gia về AI có thể hiểu đã được vì sao Facebook lại đăng một bài viết này mà lại không đăng một bài viết khác hay không? Hay khi một bác sĩ dùng một máy đề xuất phương án điều trị ở trên nền tảng AI thì liệu bác sĩ có hiểu vì sao AI lại đề xuất như vậy không, hay là chính là cần có một người nữa để giám sát AI trong bệnh viện? Wallach cho rằng việc hiểu AI hoạt động như thế nào chính là quan trọng, không chỉ để bảo đảm rằng máy móc không hoạt động sai, ví dụ chiếc xe thám hiểm sao Hỏa không bị rơi xuống vách đá. Việc hiểu hệ thống có thể giúp các nhà điều tra AI gây nên các hệ thống chính xác hơn. “Nếu hệ thống của bạn chưa chạy mà bạn lại không biết vì sao, thì cũng sẽ rất nhiều khó cải thiện,” Yosinki của Uber nói, “Nếu bạn không biết vì sao nó không chạy, thì biện pháp chỉ chính là một sự nhảy cóc.” Để hiểu đã được thuật toán của mình “suy nghĩ” như thế nào, Google đang cố gắng dò từng bước trong hàng triệu bước tính toán mỗi khi thuật toán được áp dụng để xử lý ảnh. Tại hội thảo NIPS, nhà nghiên cứu của Google, Maithra Raghu cho thấy bà có thể sửa một mối liên kết không mong muốn giống như trong trường hợp giữa cái tạ , cái tay. Nhưng trong trường hợp cụ thể của bà thì chính là giữa con chim và vỏ cây. Bằng cách nhìn xem nơ-ron nào trong mạng được kích hoạt khi AI nhìn vào hình ảnh của con chim. Sau đó tắt nơ-ron vỏ cây đi, bà có thể xác định được nơ-ron nào tập trung vào vỏ cây và nơ-ron nào tập trung vào con chim. Thành công này cho thấy dù rất phức tạp nhưng mọi người vẫn có thể “phiên dịch” quá trình hoạt động của một mạng nơ-ron sang thứ mà con người có thể hiểu được. “Ở trường học mọi người yêu cầu sinh viên phải dùng đến từ ngữ để chứng minh rằng họ hiểu vấn đề và lý giải kết luận của họ,” Wagstaff nói, “còn bây giờ mọi người kỳ vọng rằng máy móc cũng có thể làm được việc tương tự.” Theo qz.comThành ĐôXem thêm:


Trí tuệ nhân tạo của Google gây nên AI khác vượt trội hơn cả hệ thống của con người



Ra quyết địnhmặt tối của công nghệsao Hỏatrí tuệ nhân tạo


2017-12-15