ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์

นี่คือซึ่งเปิดโอกาสให้สามารถ โปรดตรวจสอบว่าเนื้อหามีลักษณะและก่อนที่จะลงในวิกิพีเดีย กรุณาอดทนรอผู้เขียนคนอื่นมาช่วยตรวจให้ อย่าย้ายหน้าไปเป็นบทความเองโดยพลการ ค้นหาข้อมูล: Google (books · news · newspapers · scholar · free images · WP refs) · FENS · JSTOR · NYT · TWL เครื่องมืออย่างง่าย: Citation bot (วิธีใช้) | ขั้นสูง: Fix ambiguous links · Fix bare URLs · Fix broken links · ปูมบทความ · ปูมฉบับร่าง สำคัญ: ถ้าลบป้ายนี้ออกจะทำให้บันทึกหน้าไม่ได้ ผู้แก้ไขหน้านี้คนล่าสุด คือ ( | ) เมื่อ 16 วันก่อน (ล้างแคช) ฉบับร่างนี้ถูกส่งสำหรับการทบทวนแล้วและกำลังรอการทบทวน

Software to detect AI-generated content

ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์ (อังกฤษ: Artificial intelligence content detection) มีจุดมุ่งหมายเพื่อระบุว่าในบางเนื้อหา เช่น ข้อความ รูปภาพ วิดีโอ หรือเสียง ถูกสร้างขึ้นโดยใช้ปัญญาประดิษฐ์หรือไม่

อย่างไรก็ตาม ความน่าเชื่อถือของซอฟต์แวร์ดังกล่าวเป็นหัวข้อที่ถกเถียงกันอยู่และมีความกังวลเกี่ยวกับการใช้ซอฟต์แวร์ตรวจจับ AI อย่างไม่เหมาะสมโดยผู้สอน

ปัญหาด้านความแม่นยำ

เครื่องมือตรวจจับ AI หลายตัวได้รับการพิสูจน์แล้วว่าไม่น่าเชื่อถือในแง่ของการตรวจจับข้อความที่สร้างโดย AI อย่างแม่นยำและครอบคลุม ในการศึกษาโดย Weber-Wulff และคณะ ที่ตีพิมพ์ในปี ค.ศ.2023 นักวิจัยได้ประเมินเครื่องมือตรวจจับ 14 ตัว รวมถึง และ GPT Zero และพบว่าทั้งหมดมีคะแนนต่ำกว่า 80% ในด้านความแม่นยำ และมีเพียง 5 ตัวเท่านั้นที่มีคะแนนเกิน 70%

การตรวจจับข้อความ

สำหรับข้อความ การตรวจจับนี้มักทำเพื่อป้องกันข้อกล่าวหาเรื่อง โดยมักตรวจจับการซ้ำของคำซึ่งเป็นสัญญาณบ่งชี้ว่าข้อความถูกสร้างขึ้นโดย AI รวมถึง ด้วย โดยทั่วไปแล้ว ซอฟต์แวร์เหล่านี้มักถูกใช้โดยครูในการตรวจงานของนักเรียน โดยใช้เป็นครั้งคราว เมื่อมีการเปิดตัว ChatGPT และซอฟต์แวร์สร้างข้อความ AI อื่น ๆ สถาบันการศึกษาหลายแห่งได้ออกนโยบายต่อต้านการใช้ AI โดยนักเรียน ซอฟต์แวร์ตรวจจับข้อความที่สร้างโดย AI ยังถูกใช้โดยผู้ที่ประเมินผู้สมัครงาน รวมถึง ด้วย

ตัวตรวจจับในปัจจุบันอาจไม่น่าเชื่อถือในบางครั้ง และมีการระบุผลงานที่มนุษย์สร้างขึ้นอย่างไม่ถูกต้องว่าเป็นผลงานที่มาจาก AI ขณะเดียวกันก็ล้มเหลวในการตรวจจับผลงานที่สร้างโดย AI ในบางกรณี กล่าวว่า เทคโนโลยีนี้ "มีความยากลำบากในการตรวจจับข้อความที่สร้างโดย ChatGPT ที่ถูกเรียงลำดับใหม่เล็กน้อยโดยมนุษย์และถูกทำให้ลำดับเปลี่ยนไปโดยเครื่องมืออ้างอิงในที่อื่น" ซอฟต์แวร์ตรวจจับข้อความ AI ยังแสดงให้เห็นว่าแยกแยะกับผู้พูดภาษาอังกฤษที่ไม่ใช่เจ้าของภาษา

นักศึกษาสองคนจากมหาวิทยาลัยแคลิฟอร์เนีย เดวิสเกือบต้องเผชิญกับการถูกไล่ออก หลังจากที่อาจารย์ของพวกเขาสแกนบทความของพวกเขาด้วยเครื่องมือตรวจจับข้อความที่เรียกว่าซึ่งทำเครื่องหมายว่าบทความนั้นถูกสร้างขึ้นโดย AI อย่างไรก็ตาม หลังจากการรายงานข่าวของสื่อ และการสอบสวนอย่างละเอียดถี่ถ้วน นักเรียนก็พ้นจากความผิดใด ๆ

ในเดือนเมษายน 2023 มหาวิทยาลัยเคมบริดจ์และสมาชิกอื่นในกลุ่มรัสเซล ของมหาวิทยาลัยในสหราชอาณาจักร ได้เลือกที่จะไม่ใช้เครื่องมือตรวจจับข้อความที่ใช้ปัญญาประดิษฐ์ของ หลังจากแสดงความกังวลว่ามันไม่เชื่อถือได้มหาวิทยาลัยเท็กซัส ออสตินเลือกออกจากระบบหกเดือนต่อมา

ในเดือนพฤษภาคม ค.ศ. 2023 อาจารย์ที่มหาวิทยาลัยเท็กซัสเอแอมแอนด์เอ็ม-คอมเมิร์ซใช้ ChatGPT เพื่อตรวจสอบว่าเนื้อหาของนักศึกษาเขียนขึ้นโดย ChatGPT หรือไม่ ซึ่ง ChatGPT กล่าวว่าเป็นเช่นนั้น ด้วยเหตุนี้ เขาทำให้เสียใจต่อชั้นนำแม้ว่า ChatGPT ไม่มีนักเรียนคนใดถูกขัดขวางไม่ให้สำเร็จการศึกษาเนื่องจากปัญหานี้ และนักเรียนทั้งหมดยกเว้นนักเรียนเพียงคนเดียวที่ยอมรับว่าใช้ซอฟต์แวร์ ก็พ้นผิดจากข้อกล่าวหาว่าใช้ ChatGPT ในเนื้อหาของตน

ซอฟต์แวร์ป้องกันการตรวจจับข้อความ

มีซอฟต์แวร์ที่พร้อมใช้งานออกแบบมาเพื่อหลีกเลี่ยงการตรวจจับข้อความที่ใช้ปัญญาประดิษฐ์

การศึกษาที่ตีพิมพ์ในเดือนสิงหาคม ค.ศ. 2023 วิเคราะห์ข้อมูลจาก 20 บทคัดย่อจากงานวิจัยที่ตีพิมพ์ในวารสาร ซึ่งได้ถูกเรียบเกรียงใหม่โดยใช้ ในฐานะ AI-paraphrased abstracts บทคัดย่อที่ถูกเรียบเกรียงใหม่โดย AI จากนั้นถูกตรวจสอบเพื่อค้นหาการลอกเลียนโดยใช้ QueText และการสร้างเนื้อหาโดย AI โดยใช้ ข้อความจากนั้นถูกประมวลผ่านซอฟต์แวร์ ที่ชื่อ Undetectable.ai เพื่อลดคะแนนการตรวจจับของ AI การศึกษาพบว่า เครื่องมือตรวจจับ AI ชื่อ Originality.AI ระบุข้อความที่สร้างโดย GPT-4 ได้ด้วยความแม่นยำเฉลี่ยที่ 91.3% อย่างไรก็ตาม หลังจากที่ประมวลผ่าน Undetectable.ai ความแม่นยำในการตรวจของ Originality.AI ลดลงมาเป็นเฉลี่ย 27.8%

บางผู้เชี่ยวชาญเชื่อว่าเทคนิคเช่น ไม่ได้มีประสิทธิภาพเพราะสามารถถอดหรือเพิ่มเข้าไปเพื่อสร้างผลบวกเท็จ

การตรวจจับภาพ วิดีโอ และเสียง

มีซอฟต์แวร์ตรวจจับภาพที่ถูกบอกว่าใช้ปัญญาประดิษฐ์หลายตัว ซึ่งตั้งเป้าหมายเพื่อตรวจจับภาพที่สร้างขึ้นโดย AI (ตัวอย่างเช่นจาก หรือ นั้น) แต่พวกเขาไม่ได้มีความน่าเชื่อถืออย่างสมบูรณ์

บางคนอ้างว่าสามารถระบุ deepfake ในวิดีโอและเสียงได้ แต่เทคโนโลยีนี้ยังไม่มีความเชื่อถืออย่างสมบูรณ์แบบ

ถึงแม้จะมีการโต้แย้งเกี่ยวกับประสิทธิภาพของการใส่ watermark จากนั้น กำลังพัฒนาซอฟต์แวร์ตรวจจับที่ชื่อ SynthID ซึ่งทำงานโดยการแทรก watermark ดิจิตอลที่มองไม่เห็นได้ด้วยตามนิ้วของภาพ

อ้างอิง

1. "'Don't use AI detectors for anything important,' says the author of the definitive 'AI Weirdness' blog. Her own book failed the test". Fortune (ภาษาอังกฤษ). สืบค้นเมื่อ 2023-10-21.
2. Weber-Wulff, Debora; Anohina-Naumeca, Alla; Bjelobaba, Sonja; Foltýnek, Tomáš; Guerrero-Dib, Jean; Popoola, Olumide; Šigut, Petr; Waddington, Lorna (2023-12-25). "Testing of detection tools for AI-generated text". International Journal for Educational Integrity (ภาษาอังกฤษ). 19 (1): 26. :2306.15666. doi:10.1007/s40979-023-00146-z. ISSN 1833-2595.
3. Hern, Alex (31 December 2022). "AI-assisted plagiarism? ChatGPT bot says it has an answer for that". The Guardian. สืบค้นเมื่อ 11 July 2023.
4. Sample, Ian (10 July 2023). "Programs to detect AI discriminate against non-native English speakers, shows study". The Guardian. สืบค้นเมื่อ 10 July 2023.
5. Fowler, Geoffrey A. (2 June 2023). "Detecting AI may be impossible. That's a big problem for teachers". The Washington Post. สืบค้นเมื่อ 10 July 2023.
6. Tangermann, Victor (9 January 2023). "There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate". Futurism. สืบค้นเมื่อ 10 July 2023.
7. "We tested a new ChatGPT-detector for teachers. It flagged an innocent student". The Washington Post. 1 April 2023. สืบค้นเมื่อ 10 July 2023.
8. Taylor, Josh (1 February 2023). "ChatGPT maker OpenAI releases 'not fully reliable' tool to detect AI generated content". The Guardian. สืบค้นเมื่อ 11 July 2023.
9. Williams, Rhiannon (7 July 2023). "AI-text detection tools are really easy to fool". MIT Technology Review. สืบค้นเมื่อ 10 July 2023.
10. "AI Detection Apps Keep Falsely Accusing Students of Cheating". Futurism. 6 June 2023. สืบค้นเมื่อ 2023-10-21.
11. Jimenez, Kayla. "Professors are using ChatGPT detector tools to accuse students of cheating. But what if the software is wrong?". USA TODAY (ภาษาอังกฤษแบบอเมริกัน). สืบค้นเมื่อ 2023-10-21.
12. Klee, Miles (2023-06-06). "She Was Falsely Accused of Cheating With AI -- And She Won't Be the Last". Rolling Stone (ภาษาอังกฤษแบบอเมริกัน). สืบค้นเมื่อ 2023-10-21.
13. Staton, Bethan (3 April 2023). "Universities express doubt over tool to detect AI-powered plagiarism". Financial Times. สืบค้นเมื่อ 10 July 2023.
14. Carter, Tom. "Some universities are ditching AI detection software amid fears students could be falsely accused of cheating by using ChatGPT". Business Insider (ภาษาอังกฤษแบบอเมริกัน). สืบค้นเมื่อ 2023-10-21.
15. Verma, Prashnu (18 May 2023). "A professor accused his class of using ChatGPT, putting diplomas in jeopardy". The Washington Post. สืบค้นเมื่อ 10 July 2023.
16. "College instructor put on blast for accusing students of using ChatGPT". NBC News. 18 May 2023. สืบค้นเมื่อ 10 July 2023.
17. Beam, Christopher. "The AI Detection Arms Race Is On—and College Students Are Building the Weapons". Wired (ภาษาอังกฤษแบบอเมริกัน). ISSN 1059-1028. สืบค้นเมื่อ 2023-12-02.
18. Taloni, Andrea; Scorcia, Vincenzo; Giannaccare, Giuseppe (2023-08-02). "Modern threats in academia: evaluating plagiarism and artificial intelligence detection scores of ChatGPT". Eye (ภาษาอังกฤษ). 38 (2): 397–400. doi:10.1038/s41433-023-02678-7. ISSN 1476-5454. PMID 37532832.
19. Thompson, David (November 30, 2023). "Researchers Say Undetectable AI May Be a 'Modern Threat to Academia'". The Science Times.
20. Knibbs, Kate. "Researchers Tested AI Watermarks—and Broke All of Them". Wired (ภาษาอังกฤษแบบอเมริกัน). ISSN 1059-1028. สืบค้นเมื่อ 2023-10-21.
21. Thompson, Stuart A.; Hsu, Tiffany (28 June 2023). "How Easy Is It to Fool A.I.-Detection Tools?". The New York Times. สืบค้นเมื่อ 10 July 2023.
22. Rizwan, Choudhury (October 15, 2023). "Expert debunks AI tool's claim that Israel's photo is fake". Interesting Engineering. สืบค้นเมื่อ October 22, 2023.
23. Hsu, Tiffany; Myers, Steven Lee (18 May 2023). "Another Side of the A.I. Boom: Detecting What A.I. Makes". The New York Times. สืบค้นเมื่อ 10 July 2023.
24. Pierce, David (2023-08-29). "Google made a watermark for AI images that you can't edit out". The Verge. สืบค้นเมื่อ 2023-10-21.
25. Wiggers, Kyle (2023-08-29). "DeepMind partners with Google Cloud to watermark AI-generated images". TechCrunch. สืบค้นเมื่อ 2023-10-21.

โปรดรอสักครู่ หน้านี้อาจใช้ระยะเวลานานถึงหนึ่งสัปดาห์ เนื่องจากฉบับร่างจะได้รับการทบทวนตามลำดับ ขณะนี้มี 169 หน้า ถ้าการเสนอนี้ถูกอนุมัติ หน้านี้จะถูกย้ายไปยังเนมสเปซบทความ ถ้าการเสนอนี้ถูกปฏิเสธ จะแจ้งเหตุผลไว้ที่นี้ ระหว่างนี้คุณสามารถดำเนินการเพื่อปรับปรุงด้วยการแก้ไขฉบับร่างที่เสนอได้ตามปกติ ขอความช่วยเหลือ หากต้องการความช่วยเหลือเกี่ยวกับการแก้ไขหรือการส่งฉบับร่างของคุณ กรุณาถามที่แผนกช่วยเหลือหรือที่ โปรดอย่าลืมว่า กระบวนการตรวจทานอาจช้าไปบ้าง โปรดคอย ไม่จำเป็นต้องขอให้ตรวจสอบฉบับร่างที่อื่นใดอีก หากต้องการข้อเสนอแนะในฉบับร่างเพิ่มเติม หรือการตรวจทานใช้เวลานานเกินไป (เช่น 3 สัปดาห์) คุณสามารถสอบถามได้ที่หรือที่ (สำหรับคุยกันสะดวกขึ้น) หรือคุณอาจ โครงการวิกิบางโครงการอาจไม่ค่อยมีการเคลื่อนไหวเท่าใดนัก จึงไม่อาจยืนยันเวลาที่จะตอบกลับได้ วิธีปรับปรุงบทความของคุณ – ภาพรวมเบื้องต้นเกี่ยวกับวิธีการแก้ไขวิกิพีเดีย วิธีใช้:การจัดรูปแบบวิกิ – วิธีใช้มาร์กอัป – วิธีอ้างอิงแหล่งที่มา – วิธีพัฒนาบทความของคุณ – วิธีปรับปรุงบทความของคุณ – ทำให้แน่ใจว่าบทความของคุณมี คุณยังสามารถดู และ เพื่อค้นหาตัวอย่างบทความที่ดีที่สุดของวิกิพีเดียในหัวข้อที่คล้ายกับบทความที่คุณแจ้งทบทวน ทรัพยากรการแก้ไข ค้นหาข้อมูล: Google (books · news · newspapers · scholar · free images · WP refs) · FENS · JSTOR · NYT · TWL เครื่องมืออย่างง่าย: Citation bot (วิธีใช้) | ขั้นสูง: Fix ambiguous links · Fix bare URLs · Fix broken links เครื่องมือตรวจสอบ  ·  · ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์ (: + bio) · (ปูม) · รายงานละเมิดลิขสิทธิ์ · (ค้นหา: กูเกิล, บิง, วิกิพีเดีย) · ส่งเมื่อ 16 วันก่อน โดย  (: รอ  ปัด +) · แก้ไขล่าสุดเมื่อ 16 วันก่อน โดย คำเตือน: หน้า "ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์" เปลี่ยนทางไปที่ฉบับร่าง:ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์ กรุณาหรือหน้านี้มีชื่อหน้าที่ถูกต้อง คำเตือน: ที่ส่งฉบับร่างนี้อาจได้รับการเปลี่ยนชื่อไปแล้ว กรุณาตรวจสอบและปรับแก้ค่าในแม่แบบตามที่ข้อมูลเปลี่ยนแปลงก่อนตรวจทาน