ChatGPT เพิ่มมาตรฐานป้องกันและระบบช่วยเหลือ หากพบการสนทนามีแนมโน้มนำไปสู่เหตุการณ์รุนแรง
Body
OpenAI ประกาศเพิ่มระบบป้องกันและระบบช่วยเหลือผู้ใช้งาน ChatGPT หากพบการสนทนาที่มีแนวโน้มว่าผู้ใช้งานต้องได้รับการช่วยเหลือโดยเร็ว เพื่อไม่ให้นำไปสู่เหตุการณ์ที่คาดไม่ถึงหรือเศร้าสลด
ประกาศนี้ออกมาหลังจากครอบครัวหนึ่งยื่นฟ้อง OpenAI และ Saml Altman ซีอีโอ ต่อศาลซานฟรานซิสโก บอกว่าพวกเขาสูญเสียลูกชายวัย 16 ปี จากการสนทนากับ ChatGPT และ ChatGPT แนะนำทางออกปัญหาให้เขาปลิดชีวิตตัวเอง พร้อมกับแนะนำขั้นตอนให้ด้วย คำฟ้องนี้ยังระบุว่าโมเดลที่ลูกชายเขาใช้งานคือ ChatGPT-4o ซึ่ง OpenAI รีบร้อนในการนำออกสู่ตลาด โดยไม่ได้ตรวจสอบความปลอดภัยให้รัดกุมมากพอ
ตัวแทนของ OpenAI ออกมาแสดงความเสียใจต่อเหตุการณ์ที่เกิดขึ้น จึงได้ปรับปรุงความปลอดภัยของ ChatGPT หลายอย่าง ซึ่งมีรายละเอียดสำคัญดังนี้
OpenAI บอกว่า GPT-5 ได้รับการปรับปรุงให้ลดการตอบสนองต่อบทสนทนาที่เสี่ยงได้ดีขึ้น 25% และปรับปรุงข้อบกพร่องเช่น การสนทนาที่ยาว ทำให้ระบบมีแนวโน้มคล้อยตามผู้ใช้งานง่ายขึ้น หรือเพิ่มการบล็อกเนื้อหาที่ไม่เหมาะสมได้ดีขึ้น
ที่มา: OpenAI และ The San Francisco Standard
arjin Wed, 27/08/2025 - 06:36
Continue reading...
Body
OpenAI ประกาศเพิ่มระบบป้องกันและระบบช่วยเหลือผู้ใช้งาน ChatGPT หากพบการสนทนาที่มีแนวโน้มว่าผู้ใช้งานต้องได้รับการช่วยเหลือโดยเร็ว เพื่อไม่ให้นำไปสู่เหตุการณ์ที่คาดไม่ถึงหรือเศร้าสลด
ประกาศนี้ออกมาหลังจากครอบครัวหนึ่งยื่นฟ้อง OpenAI และ Saml Altman ซีอีโอ ต่อศาลซานฟรานซิสโก บอกว่าพวกเขาสูญเสียลูกชายวัย 16 ปี จากการสนทนากับ ChatGPT และ ChatGPT แนะนำทางออกปัญหาให้เขาปลิดชีวิตตัวเอง พร้อมกับแนะนำขั้นตอนให้ด้วย คำฟ้องนี้ยังระบุว่าโมเดลที่ลูกชายเขาใช้งานคือ ChatGPT-4o ซึ่ง OpenAI รีบร้อนในการนำออกสู่ตลาด โดยไม่ได้ตรวจสอบความปลอดภัยให้รัดกุมมากพอ
ตัวแทนของ OpenAI ออกมาแสดงความเสียใจต่อเหตุการณ์ที่เกิดขึ้น จึงได้ปรับปรุงความปลอดภัยของ ChatGPT หลายอย่าง ซึ่งมีรายละเอียดสำคัญดังนี้
- ChatGPT ถูกฝึกฝนให้แสดงความเข้าใจและมี Empathy ขณะสนทนามากขึ้น
- เพิ่มคำแนะนำปรึกษากับคนจริง เช่น สายด่วน 988 ในสหรัฐอเมริกา หรือ Samaritans ในสหราชอาณาจักร
- ตรวจสอบหากการสนทนามีแนวโน้มนำไปสู่การทำร้ายคนอื่น โดยทีม OpenAI จะเข้ามาตรวจสอบซ้ำและดำเนินการตามกฎหมายได้
OpenAI บอกว่า GPT-5 ได้รับการปรับปรุงให้ลดการตอบสนองต่อบทสนทนาที่เสี่ยงได้ดีขึ้น 25% และปรับปรุงข้อบกพร่องเช่น การสนทนาที่ยาว ทำให้ระบบมีแนวโน้มคล้อยตามผู้ใช้งานง่ายขึ้น หรือเพิ่มการบล็อกเนื้อหาที่ไม่เหมาะสมได้ดีขึ้น
ที่มา: OpenAI และ The San Francisco Standard
arjin Wed, 27/08/2025 - 06:36
Continue reading...