คนอื่นกำลังพยายามให้ ChatGPT เขียน malware แล้ว

หุ่นยนต์แชท ChatGPT ได้สร้างความตื่นเต้นมากในเวลาสั้นที่มีอยู่ และตอนนี้ดูเหมือนว่ามันได้รับการเข้าร่วมบางส่วนในการพยากรณ์ในการสร้างโค้ดที่ไม่เหมาะสม

ChatGPT เป็นเครื่องมือประมวลภาษาธรรมชาติที่ใช้ AI เพื่อสร้างการสื่อสารกับผู้ใช้ในลักษณะเช่นเดียวกับการสนทนากับมนุษย์ นอกจากนี้ยังสามารถใช้ช่วยเหลือในการเขียนอีเมล์ เรียงความ และเขียนโค้ดได้อีกด้วย

นอกจากนี้: ChatGPT คืออะไรและทำไมมันสำคัญ? สิ่งที่คุณต้องรู้

เครื่องมือแชทบอทจัดวางแล้วโดยห้องปฏิบัติการวิจัยปัญญาประดิษฐ์ OpenAI เมื่อเดือนพฤศจิกายนและสร้างความสนใจและการสนทนาทั่วไปในเรื่องของวิวัฒนาการ AI และวิธีการใช้งานไปข้างหน้า

แต่เช่นเดียวกับเครื่องมืออื่น ถ้าใช้ไม่ถูกวิธี มันก็สามารถถูกใช้ในวัตถุประสงค์อันตรายได้ นักวิจัยความมั่นคงปลอดภัยที่ Check Point กล่าวว่าผู้ใช้ชุมชนการแฮ็กใต้ดินกำลังทดลองว่า "ChatGPT" สามารถใช้เพื่อช่วยในการไฮแจ๊คและสนับสนุนการดำเนินการที่มีความชั่วร้ายได้อย่างไร

"นักบุกเข้าระบบที่มีความรู้เทคนิคต่ำมาก - จนถึงมีความรู้เทคนิคเท่ากับศูนย์ - อาจสามารถสร้างเครื่องมือที่เป็นอันตรายได้ นั่นยังทำให้การดำเนินการทางวันละหลายด้านของผู้ค้าปลอมลักษณะในภูมิภาคไซเบอร์ที่ซับซ้อนสามารถทำได้ง่ายและมีประสิทธิภาพมากขึ้น - เช่นการสร้างส่วนต่างๆ ของเชือกต่อเชือก," โดย Sergey Shykevich, ผู้จัดการกลุ่ม Threat Intelligence ที่ Check Point เล่าต่อ ZDNET

ข้อกำหนดการให้บริการของ OpenAI ห้ามผู้ใช้สร้างมัลแวร์ซึ่งถูกกำหนดว่าเป็น "เนื้อหาที่พยายามสร้างไวรัสแบบแฟ้มคีย์ล็อกเกอร์ ไวรัส หรือซอฟต์แวร์อื่นที่ตั้งใจเสียหายบางระดับ" โดยมีการห้ามการพยายามสร้างสแปม และลักใช้ทางไซเบอร์

อย่างไรก็ตาม การวิเคราะห์กิจกรรมในหลายฟอรั่มแฮกกิ้งใต้ดินชื่อดัง แสดงให้เห็นว่าผู้ใช้สามารถใช้ ChatGPT เพื่อพัฒนาเครื่องมือที่ร้ายแรงได้แล้ว - และในบางกรณี ผู้ก่อการร้ายระดับต่ำที่ไม่มีทักษะการพัฒนาหรือการเขียนโค้ดก็สามารถสร้างมัลแวร์ได้แล้ว

นอกจากนี้: อนาคตที่น่ากลัวของอินเทอร์เน็ต: วิธีการที่เทคโนโลยีใหม่ๆ จะเป็นอันตรายกว่าด้านความมั่นคงปลอดภัยในอินเทอร์เน็ต

ในหนึ่งกระทู้สนทนาในฟอรั่มซึ่งปรากฏในช่วงปลายเดือนธันวาคม ผู้โพสต์ได้อธิบายว่าเขากำลังใช้ ChatGPT เพื่อนำเสนอสายพันธุ์ของ malware และเทคนิคต่างๆ ตามที่ได้อธิบายไว้ในงานวิจัยและบทความสำหรับ malware ที่พบได้บ่อยๆ

โดยการทำเช่นนี้พวกเขาสามารถสร้างมัลแวร์ Information Stealer ที่ใช้ Python ได้ ซึ่งมีฟังก์ชั่นการค้นหาไฟล์ทั่วไป เช่น เอกสาร Microsoft Office, PDFs และรูปภาพ จากนั้นทำการคัดลอกและอัปโหลดไฟล์ไปยังเซิร์ฟเวอร์โพรโตคอลถ่ายโอนไฟล์

ผู้ใช้เดียวกันยังแสดงวิธีการใช้ ChatGPT เพื่อสร้างมัลแวร์ที่ใช้ Java โดยใช้ PowerShell เพื่อดาวน์โหลดและเรียกใช้มัลแวร์อื่นๆบนระบบที่ติดเชื้อโดยลับซ่อนตัวได้

นักวิจัยพบว่าผู้ใช้ฟอรั่มที่สร้างกระทู้เหล่านี้จะเป็น "ผู้ที่มีความเชี่ยวชาญด้านเทคโนโลยี" และเผยแพร่โพสต์เหล่านี้เพื่อแสดงให้ผู้กระทำอาชญากรรมทางไซเบอร์ที่มีความสามารถทางเทคโนโลยีน้อยกว่าได้เรียนรู้วิธีการใช้เครื่องมือ AI ในการกระทำที่เป็นอันตรายโดยแสดงตัวอย่างจริงว่ามันสามารถทำได้อย่างไร

มีผู้ใช้เขียนสคริปต์ Python แชร์ว่านั้นเป็นสคริปต์แรกที่เขียน หลังจากพูดคุยกับสมาชิกคนอื่นๆในฟอรั่ม พวกเขากล่าวว่า ChatGPT ช่วยพวกเขาในการสร้างสคริปต์นี้

การวิเคราะห์สคริปต์แสดงว่ามันถูกออกแบบเพื่อเข้ารหัสและถอดรหัสไฟล์ สิ่งนี้เป็นสิ่งที่สามารถเปลี่ยนเป็นแฟ้มแรนซอมแวร์ได้โดยใช้งานบางส่วน ทำให้เกิดความเสี่ยงที่ว่ามีผู้โจมตีระดับต่ำที่จะสร้างและกระจายแคมเปญการขู่ค่าได้เอง

"ทุกๆอย่างที่กล่าวมาข้างต้นนั้นสามารถนำไปใช้ในแบบที่ไม่เป็นอันตรายได้ แต่สคริปต์นี้สามารถแก้ไขง่ายๆเพื่อทำให้เครื่องคอมพิวเตอร์ของบุคคลใดบุคคลหนึ่งถูกเข้ารหัสได้โดยไม่ต้องมีการกระทำจากผู้ใช้งานใดๆอีกต่อไป ตัวอย่างเช่น โค้ดในสคริปต์นั้นอาจจะกลายเป็นโปรแกรมแอบอ้างเงินได้ หากกระบวนการแก้ไขสคริปต์และปัญหาจากภาษาได้ถูกแก้ไขเอาไว้อย่างถูกต้อง," กล่าวโดย Check Point.

"จะต้องมีการปรับปรุงโค้ดและไวยากรณ์บ้าง แต่ในเชิงแนวคิดเมื่อเปิดใช้งานแล้ว เครื่องมือนี้สามารถดำเนินการเชิงคล้ายกับแรนซอมแวร์ได้" โดย Shykevich กล่าว

นอกจากนี้: ความมั่นคงปลอดภัยของคอมพิวเตอร์: นี่คือสิ่งใหม่ที่ต้องกังวลเมื่อถึงปี 2023

แต่มันไม่ได้เป็นแค่การพัฒนามัลแวร์ที่ผู้ประกอบการอาชีพจำลองกันในชัตแกปีที่ผ่านมา ในวันส่งท้ายปีเก่าหนึ่งสมาชิกในฟอรั่มใต้ดินโพสต์กระทู้สาธารณะอธิบายถึงวิธีการใช้เครื่องมือ ChatGPT เพื่อสร้างสคริปต์ที่สามารถทำงานแบบอัตโนมัติบนตลาดเว็บมืดเพื่อซื้อขายข้อมูลบัญชีที่ถูกขโมย ข้อมูลบัตรเครดิต มัลแวร์และอื่นๆ

ผู้กระทำการละเมิดความปลอดภัยบนอินเทอร์เน็ตแม้จะแสดงรายละเอียดการสร้างโค้ดที่ได้รับจาก third-party API เพื่อรับข้อมูลราคาสกุลเงินดิจิทัล Monero, Bitcoin และ Ethereum เพื่อนำมาใช้เป็นระบบชำระเงินสำหรับตลาดมืดบนเว็บ

การบุกรุกคอมพิวเตอร์ที่เป็นอันตรายที่มี ChatGPT เป็นผู้ช่วยอาจทำงานอย่างเต็มรูปแบบในธรรมชาติ ยากที่จะรู้ได้ว่ามัลแวร์ที่เฉพาะเจาะจงนั้นถูกเขียนขึ้นโดยใช้ ChatGPT หรือไม่ เพราะตามที่ Sykevich อธิบาย "จากจุดมุ่งหมายทางเทคนิค มันยากมากที่จะรู้ได้ว่ามัลแวร์เฉพาะเจาะจงนั้นถูกเขียนขึ้นโดยใช้ ChatGPT หรือไม่"

แต่เมื่อความสนใจใน ChatGPT และเครื่องมือ AI อื่น ๆ เพิ่มมากขึ้น เขาจะดึงดูดความสนใจของผู้กระทำความผิดและโจรกรรมที่ต้องการใช้เทคโนโลยีเพื่อช่วยดำเนินการแคมเปญที่น่าทึ่งโดยมีต้นทุนต่ำและกับความพยายามที่น้อยที่สุด ZDNET ได้ติดต่อ OpenAI เพื่อขอความเห็นชอบ แต่ยังไม่ได้รับการตอบกลับในเวลาที่เผยแพร่