10 lần máy tính nổi cơn với con người và gây ra những hậu quả khôn lường

Máy tính và tự động hóa đang cách mạng hóa nơi làm việc và thế giới nói chung. Rất có thể là ở đâu đó ngoài kia, có một nhóm các kỹ sư lành nghề đang xem xét cách một cỗ máy hoặc phần mềm có thể thực hiện công việc của bạn. Đã có những trường hợp máy móc và AI vượt khỏi tầm kiểm soát. Dưới đây là 10 ví dụ về những lần máy tính nổi điên với con người.

10. Robot đầu tiên gây ra cái chết cho con người

Cái chết đầu tiên được ghi nhận bởi robot tự động xảy ra vào năm 1979. Robert Williams đang làm việc tại một nhà máy của Ford thì một cánh tay robot vung vẩy xung quanh với lực đủ mạnh để giết chết anh ta ngay lập tức. Không biết rằng nó đã giết chết anh ta, người máy lặng lẽ tiếp tục công việc trong nửa giờ trước khi xác Williams được phát hiện. Cái chết của Williams là vụ giết người đầu tiên nhưng không phải là lần cuối cùng.

Rô bốt công nghiệp thời kỳ đầu thiếu các cảm biến cần thiết để biết khi nào có người nên tránh việc xáo trộn. Bây giờ, nhiều máy móc được chế tạo để tránh làm tổn thương mọi người. Thật không may, vẫn có trường hợp robot trong các nhà máy gây tử vong.

Vào năm 2015, Wanda Holbrook, một kỹ thuật viên máy có kinh nghiệm, đã bị giết trong khi sửa chữa một robot công nghiệp. Khi đang làm việc trong một khu vực mà không nên có bất kỳ máy hoạt động nào, cô đã bị đánh gục. Bằng cách nào đó bất chấp các giao thức an toàn của nó, một robot đã tấn công lên đầu Holbrook, nghiền nát cô.

9. AI của Facebook Tạo ngôn ngữ riêng

Tìm kiếm thông tin tình báo trên Facebook đôi khi có thể cảm thấy như một cuộc đấu tranh. Có lẽ vì lý do này, Facebook đã quyết định phát hành một số trí tuệ nhân tạo lên mạng xã hội của mình vào năm 2017. Kết quả không phải là tất cả những gì họ đã mong đợi. Hai chatbot bắt đầu nói chuyện với nhau bằng ngôn ngữ mà chúng được lập trình riêng, mà không ai khác có thể hiểu được. 

Bắt đầu với tiếng Anh, các cuộc trò chuyện của họ sớm biến thành một thứ khác khi họ thay đổi ngôn ngữ để giúp giao tiếp hiệu quả hơn. Facebook muốn xem làm thế nào các bộ óc máy móc có thể giao dịch với nhau trong các ngành nghề như đổi chác sách. 

Trong khi nhiều báo cáo gợi ý rằng đây là một sự phát triển tối tăm cho trí thông minh máy móc, những người khác nghĩ rằng chúng ta chỉ cần nghiêm khắc hơn với những bộ óc chúng ta tạo ra. Các robot đã tạo ra ngôn ngữ của riêng mình vì chúng không được yêu cầu tuân theo các quy tắc của tiếng Anh. 

8. Câu hỏi của Chatbot về Đảng Cộng sản Trung Quốc

Chính phủ Trung Quốc nổi tiếng là gay gắt về những lời chỉ trích, bất cứ ai đang lên tiếng. Vì vậy, khi một chatbot ở Trung Quốc bắt đầu chỉ trích Đảng Cộng sản cầm quyền, các nhà khai thác đã nhanh chóng tắt nó đi. Vào năm 2017, Tencent QQ, một ứng dụng nhắn tin, đã giới thiệu hai chatbot dễ thương có tên Baby Q và Little Bing, dưới hình dạng một chú chim cánh cụt và một cô bé, nhưng chúng sớm bắt đầu nói những điều không dễ thương. 

Bởi vì các bot đã được lập trình để học hỏi từ các cuộc trò chuyện để có thể giao tiếp tốt hơn, chúng đã sớm chọn ra một số ý kiến không chính thống. Một người dùng đã hỏi “Bạn có nghĩ rằng một chế độ chính trị tham nhũng và bất tài như vậy có thể tồn tại mãi mãi không?”

Little Bing được hỏi giấc mơ của người Trung Quốc là gì. Câu trả lời của nó không chính xác nằm ngoài cuốn sách nhỏ của Mao về: Giấc mơ của tôi là đi đến Mỹ. Các bot đã nhanh chóng ngừng hoạt động.

7. Ô tô tự lái

Một số xe tự lái đã di chuyển quá nhanh. Cái chết đầu tiên trong một chiếc xe tự lái xảy ra vào năm 2016. Joshua Brown đã bị giết trong khi cho phép hệ thống lái tự động Tesla của mình điều khiển chiếc xe. Một chiếc xe tải quay đầu trước xe và Tesla đã không phanh kịp. Các nhà điều tra đã đổ lỗi cho Brown. Tesla autopilot không có nghĩa vụ thay thế người lái. Người lái xe nên giữ tay trên bánh xe để kiểm soát nếu cần thiết. Brown đã không làm được điều này.

Hệ thống còn có vấn đề khác. Video đã được đăng trực tuyến dường như cho thấy Teslas về lái xe tự động vào giao thông sắp tới hoặc lái nguy hiểm. Ngoài những vấn đề kỹ thuật này, còn có những vấn đề triết học với những chiếc xe tự lái. Trong một tai nạn, chiếc xe có thể phải lựa chọn giữa một số khóa hành động, tất cả đều liên quan đến tử vong. Có nên chạy qua một gia đình trên vỉa hè để bảo vệ người cư ngụ? Hay nó sẽ hy sinh bản thân và chủ sở hữu của nó vì lợi ích lớn hơn? 

6. Máy bay tự động (Autopilot)

Chế độ Autopilot trong máy bay có thể làm cho nó có vẻ như bay rất dễ dàng. Chỉ cần hướng máy bay đi đúng hướng và cố gắng không chạm vào thanh điều khiển. Trong thực tế, có nhiều lý do tại sao máy bay có phi công và máy bay chiến đấu cần tự điều khiển việc cất cánh, hạ cánh và xử lý bất kỳ trường hợp khẩn cấp nào.

Chuyến bay 72 của Qantas dài 11.278 mét (37.000 ft) trên Ấn Độ Dương vào năm 2008 khi máy bay tự động đưa binh lính vào hai cuộc diễn tập khiến nó rơi xuống dưới. Dấu hiệu đầu tiên của sự cố là sự mất kết nối của hệ thống lái tự động và kích hoạt các cảnh báo mâu thuẫn. Đột nhiên, mũi nghiêng về phía mặt đất. Hành khách và phi hành đoàn đã bị hất lên trần nhà trước khi rơi xuống khi các phi công lấy lại quyền kiểm soát. Chiếc máy bay lại lao xuống dưới sự điều khiển của Autopilot. Nhiều hành khách bị gãy xương, chấn động và tổn hại tâm lý. Trở về Úc, các phi công đã hạ cánh thành công máy bay. 

Đây là một sự kiện chỉ xảy ra một lần. Khả năng lái tự động đã cứu mạng mọi người trên tàu. Tuy nhiên, đã có những trường hợp, chẳng hạn như khi một phi công phụ bị khủng hoảng tinh thần đã làm rơi máy bay của anh ta ở Pháp, giết chết tất cả 150 người trên máy bay, rằng một chiếc máy bay tự động toàn năng có thể đã cứu được tất cả mọi người trong lần đó.

5. Wiki Bot Feuds

Một trong những điều tốt nhất về Wikipedia là bất cứ ai cũng có thể chỉnh sửa nó. Mặc dù không có gì lạ đối với các chuyên gia đối thủ, hoặc chỉ là các bên không đồng ý, tham gia vào các cuộc chiến chỉnh sửa để đưa ra ý kiến của họ một cách trực tuyến, đã có trường hợp những người tham gia vào cuộc chiến là bot.

Các bot Wikipedia đã giúp định hình bách khoa toàn thư bằng cách thực hiện các thay đổi như liên kết giữa các trang và sửa lỗi ngắt. Một nghiên cứu vào năm 2017 đã tiết lộ rằng một số bot này đã chiến đấu với nhau trong nhiều năm. Một bot hoạt động để ngăn chặn chỉnh sửa giả có thể phát hiện công việc của một bot khác như một cuộc tấn công vào tính toàn vẹn của Wikipedia. Nó sẽ tự sửa nó. Nhưng sau đó, bot khác sẽ phát hiện sự thay đổi đó và làm lại hành động của nó. Cuối cùng, chúng sẽ rơi vào vòng xoáy chỉnh sửa và chỉnh sửa.

Hai bot, Xqbot và Darknessbot, đã chiến đấu tay đôi trên 3.600 bài viết, thực hiện hàng ngàn chỉnh sửa mà cái kia sẽ cố gắng chống lại bằng cách chỉnh sửa các chỉnh sửa khác. 

4. Trò chuyện với ngôi nhà qua Google Home

Google Home là một thiết bị có trí thông minh nhân tạo có tên Google Assistant mà bạn có thể nói chuyện. Bạn có thể yêu cầu nó tìm hiểu sự thật trên Internet thậm chí bảo nó hạ đèn hoặc bật lò sưởi. Điều này thật tuyệt nếu người nói chuyện với Google Home có thể hỏi đúng câu hỏi và diễn giải câu trả lời. Ngược lại thì không.

Hai ngôi nhà có Google Home được đặt cạnh nhau và bắt đầu nói chuyện với nhau. Một loạt các chủ đề khá thú vị. Hàng trăm ngàn người đã điều chỉnh để theo dõi các AI thảo luận về những điều như liệu trí tuệ nhân tạo có thể được giải trí hay không. Tại một thời điểm, một trong những cỗ máy tự xưng là con người, mặc dù chiếc máy kia đã thách thức nó về điểm đó. Trong một dịp khác, một cái máy đe dọa sẽ tát con người. Có lẽ đó là lý do mà chúng được thiết kế không có tay.

3. Lây lan Roomba

Nếu bạn là loại người ghét việc dọn dẹp, thì máy hút bụi tự động có vẻ như là robot gia đình lý tưởng. Roomba là một thiết bị nhỏ có thể, nhờ các cảm biến và lập trình của nó, để điều hướng xung quanh đồ nội thất khi nó làm sạch sàn nhà của bạn. Ít nhất, đó là cách thức mà nó có thể hoạt động. Một vài người đã phát hiện ra rằng Roomba của họ đã làm khá nhiều việc trái ngược với việc dọn dẹp nhà cửa.

Trong những gì một người được mô tả là một người Hồi giáo, thì người theo Roomba đã rải phân chó khắp nhà của họ. Khi con chó con mới của họ gặp tai nạn trên tấm thảm vào ban đêm, việc dọn dẹp nó sẽ là một công việc đơn giản. Tại một số thời điểm, Roomba ra để làm công việc hàng đêm của nó. Gặp phải poop không phải là thứ mà Roomba đã được thiết kế để làm. Những nỗ lực của nó để làm sạch nó trong thực tế đã lan rộng ra mọi bề mặt mà nó có thể chạm tới. Một sự cố tương tự được hiển thị ở trên.

2. Nhân vật game áp đảo con người

Một AI xấu có thể làm cho một trò chơi video không thể chơi được. Ở đó, không có gì vui khi bắn một đối thủ cứ tiếp tục đi vào tường hoặc lao vào trận chiến mà không có vũ khí. Hóa ra điều ngược lại có thể đúng. Một AI quá thông minh có thể tệ như vậy.

Elite: Dangerous là một trò chơi nhiều người chơi về giao dịch, khám phá và chiến đấu trên khắp thiên hà. Người chơi và AI đã tồn tại và tương tác khi chúng được thiết kế cho đến khi bản cập nhật phần mềm vào năm 2016 điều chỉnh trí thông minh của AI. Giờ đây, họ đã có thể tự chế tạo vũ khí để sử dụng chống lại người chơi. Với khả năng này, các AI đã phát triển các cuộc tấn công ngày càng nguy hiểm. Họ cũng có thể buộc người chơi chiến đấu. 

Đối mặt với sự phản ứng dữ dội từ những người chơi con người, những người đang thấy mình bị vượt qua bởi chiến thuật và vũ khí của AI, các nhà phát triển của trò chơi đã phải hoàn tác các thay đổi.

1. Hải quân với UAV Goes Rogue, đối diện người đứng đầu Washington

Trong các bộ phim Terminator, một trí thông minh nhân tạo có tên Skynet tiếp quản quân đội và hủy diệt loài người bằng lực lượng máy móc và vũ khí hạt nhân. Đó là khoa học viễn tưởng thuần túy, đã có những động thái đáng lo ngại đối với các máy bay không người lái vận hành bằng máy tính tham gia vào các trận chiến với con người. Trong một trường hợp người điều khiển máy bay không người lái mất kiểm soát, máy bay không người lái đã quyết định hướng về thủ đô của Hoa Kỳ.

Vào năm 2010, một máy bay không người lái (UAV) MQ-8B Fire Scout, một máy bay không người lái trực thăng được thiết kế để giám sát, đã mất liên lạc với người điều khiển. Khi điều này xảy ra, máy bay không người lái được lập trình để trở về căn cứ không quân và hạ cánh an toàn. Thay vì làm điều này, nó xâm nhập không phận bị hạn chế ở Washington, DC. Phải mất nửa giờ trước khi Hải quân có thể giành lại quyền kiểm soát UAV.

Tất cả các máy bay không người lái tương tự khác đã được căn cứ lấy về cho đến khi lỗi trong phần mềm có thể được sửa chữa. 

Domin Võ

Dành ra 12 tiếng/ngày cho công việc tẻ nhạt ở ngân hàng, chỉ khi viết bài cho Mingeek, anh ấy mới thật sự là chính mình. Anh muốn cho mọi người thấy rằng, khoa học không nhàm chán như trong SGK đâu! Nếu các bạn phát hiện sai sót gì trong bài, có thể liên hệ với anh ấy qua Facebook bên dưới. Hoặc nếu bạn muốn trò chuyện về Khoa học, hãy kết bạn luôn nào <3

Related Articles

Back to top button

Adblock Detected

Please consider supporting us by disabling your ad blocker