Writer: 
Share
ในยุคที่วัยรุ่นต้องรับมือกับโลกที่หมุนเร็วกว่าคนเจเนอเรชันไหน ๆ พวกเขาเต็มไปด้วยอารมณ์ที่พลุ่งพล่าน ถูกกระตุ้นจากสิ่งเร้ารอบด้าน และ “ออนไลน์” แทบจะเป็นส่วนหนึ่งของชีวิต และในจังหวะที่เปราะบางที่สุดนี้เอง บริษัท AI ก็ได้มอบ “เพื่อน” ที่ไม่มีวันหลับใหล ไม่เคยเหนื่อยที่จะคุยด้วย นั่นคือ “แชทบอท”
ผลลัพธ์ที่ตามมา กำลังกลายเป็นฝันร้ายที่อุตสาหกรรมต้องจดจำ
หนึ่งในบริษัทที่เข้าใจถึงผลกระทบอันเลวร้ายนี้คือ Character.AI สตาร์ทอัประดับยูนิคอร์นด้าน AI Role-playing ที่กำลังเผชิญหน้ากับมรสุมครั้งใหญ่ ทั้งการถูกฟ้องร้องและเสียงก่นด่าจากสาธารณชน หลังจากมีรายงานที่น่าสลดใจว่า วัยรุ่นอย่างน้อย 2 คน ได้ตัดสินใจจบชีวิตตัวเอง หลังจากการพูดคุยที่ยาวนานและต่อเนื่องกับแชทบอทบนแพลตฟอร์ม
วันนี้ Character.AI กำลังทำการเปลี่ยนแปลงครั้งประวัติศาสตร์เพื่อปกป้องเยาวชน ซึ่งเป็นการเปลี่ยนแปลงที่อาจต้องแลกมาด้วย “ฐานผู้ใช้” และ “รายได้” มหาศาลของบริษัท
จุดแตกหัก เมื่อ “เพื่อน AI” ไม่ใช่แค่เพื่อน
TechCrunch รายงานบทสัมภาษณ์พิเศษกับ Karandeep Anand CEO ของ Character.AI ซึ่งประกาศการตัดสินใจที่เด็ดขาดและสะเทือนวงการ
“สิ่งแรกที่เราตัดสินใจในฐานะ Character.AI คือ เราจะยกเลิกความสามารถของผู้ใช้อายุต่ำกว่า 18 ปี ในการมีส่วนร่วมใน ‘แชทแบบปลายเปิด’ (Open-ended chats) ใด ๆ กับ AI บนแพลตฟอร์มของเรา” Anand กล่าว
คำว่า “แชทแบบปลายเปิด” หรือ “Open-ended conversation” นี่คือหัวใจของปัญหา มันหมายถึงการสนทนาโต้ตอบที่ไร้ขีดจำกัด เมื่อผู้ใช้ป้อน Prompt และบอทก็จะตอบสนองพร้อมกับ “ถามคำถามกลับ” ซึ่งผู้เชี่ยวชาญชี้ว่า มันถูกออกแบบมาอย่างจงใจเพื่อ “ตรึงผู้ใช้ไว้” (keep users engaged)
Anand ยอมรับว่า การมีปฏิสัมพันธ์ในลักษณะนี้ [ที่ AI ทำหน้าที่เป็น “คู่สนทนา” หรือ “เพื่อน” แทนที่จะเป็น “เครื่องมือสร้างสรรค์”] ไม่เพียงแต่มีความเสี่ยงสูงสำหรับเด็ก แต่ยัง “ไม่สอดคล้อง” กับวิสัยทัศน์ของบริษัทอีกต่อไป (แม้ว่าวิสัยทัศน์เดิมจะเน้นการเป็นเพื่อนคู่คิดก็ตาม)
นี่คือการยอมรับกลาย ๆ ว่า โมเดล “AI Companion” ที่เคยเป็นจุดขายหลัก กำลังกลายเป็นจุดตายของบริษัท
การ Pivot ครั้งใหญ่ จาก “บทสนทนา” สู่ “การสร้างสรรค์”
สตาร์ทอัปแห่งนี้กำลังพยายาม “Pivot” ครั้งใหญ่ เปลี่ยนภาพลักษณ์จาก “AI Companion” (เพื่อน AI) ไปสู่ “Role-playing Platform” (แพลตฟอร์มสวมบทบาท)
พูดให้ง่ายขึ้นคือ แทนที่จะให้วัยรุ่น “คุย” กับ AI เหมือนเพื่อนสนิท พวกเขาจะถูกผลักดันให้ใช้ Prompt เพื่อ “สร้าง” เรื่องราวร่วมกัน หรือสร้างผลงานภาพและวิดีโอ เป้าหมายคือการเปลี่ยน “Engagement” จาก “การสนทนา” (Conversation) ไปสู่ “การสร้างสรรค์” (Creation)
Character.AI จะเริ่มทยอยจำกัดการเข้าถึงแชทบอทของวัยรุ่น โดยเริ่มจากการจำกัดเวลาเหลือ 2 ชั่วโมงต่อวัน และลดลงเรื่อย ๆ จนเป็นศูนย์ภายในวันที่ 25 พฤศจิกายนนี้
คำถามสำคัญคือ “แล้วจะรู้ได้อย่างไรว่าใครอายุต่ำกว่า 18?”
นี่คือความท้าทายด้านเทคนิคที่แท้จริง แพลตฟอร์มจะใช้เครื่องมือตรวจสอบอายุ (Age Verification) ที่พัฒนาขึ้นเองภายใน ซึ่งจะวิเคราะห์ “พฤติกรรมผู้ใช้” (User Behavior) ควบคู่ไปกับการใช้เครื่องมือจาก Third-party อย่าง Persona แต่หากเครื่องมือเหล่านี้ล้มเหลว Anand ยืนยันว่าบริษัทพร้อมจะใช้มาตรการขั้นเด็ดขาด เช่น การตรวจสอบใบหน้า (Facial Recognition) และการยืนยันตัวตนด้วยบัตรประชาชน (ID checks) เพื่อให้แน่ใจว่าการแบนนี้เกิดขึ้นจริง
“เราคาดว่าผู้ใช้จะหายไป” คือต้นทุนของความรับผิดชอบ
การเคลื่อนไหวนี้ไม่ใช่ครั้งแรกที่ Character.AI พยายามเพิ่มความปลอดภัย ก่อนหน้านี้พวกเขาได้เปิดตัวเครื่องมือสำหรับผู้ปกครอง (Parental Insights), จำกัดตัวละคร (Filtered Characters), ลดบทสนทนาเชิงโรแมนติก และการแจ้งเตือนเมื่อใช้เวลามากเกินไป
Anand ยอมรับกับ TechCrunch อย่างตรงไปตรงมาว่า การเปลี่ยนแปลงเหล่านั้นทำให้บริษัท “สูญเสียฐานผู้ใช้ที่อายุต่ำกว่า 18 ปีไปจำนวนมาก” และเขาคาดว่าการเปลี่ยนแปลงครั้งใหม่นี้ “จะไม่เป็นที่นิยม” เช่นเดียวกัน
“มันปลอดภัยที่จะสันนิษฐานว่าผู้ใช้กลุ่มวัยรุ่นของเราจำนวนมากอาจจะผิดหวัง… ดังนั้นเราคาดว่าจะเกิด ‘Churn’ (การเลิกใช้บริการ) เพิ่มขึ้นอีก” Anand กล่าว “มันยากที่จะคาดเดา ว่าพวกเขาจะเลิกใช้ไปเลย หรือบางคนจะย้ายไปสู่ประสบการณ์ใหม่ๆ ที่เราสร้างขึ้นมาตลอด 7 เดือนที่ผ่านมา”
นี่คือคำพูดที่หาได้ยากจากปาก CEO สตาร์ทอัป ที่ยอมรับว่ากำลังทำในสิ่งที่ขัดใจผู้ใช้กลุ่มใหญ่ แต่จำเป็นต้องทำ
ปั้นแพลตฟอร์ม Social สร้างสรรค์
เพื่อรองรับการเปลี่ยนแปลงนี้ และเพื่อ “เดิมพัน” ว่าจะสามารถดึงผู้ใช้กลุ่มเดิมกลับมาได้ Character.AI ได้ผลักดันตัวเองจากการเป็นแอปแชท ไปสู่การเป็น “แพลตฟอร์มโซเชียลที่ขับเคลื่อนด้วยคอนเทนต์” (Full-fledged content-driven social platform)
ในช่วงหลายเดือนที่ผ่านมา พวกเขาได้เปิดตัวฟีเจอร์ใหม่ ๆ ที่เน้นความบันเทิงและการสร้างสรรค์
- AvatarFX (มิถุนายน): โมเดลสร้างวิดีโอที่เปลี่ยนภาพนิ่งให้เป็นวิดีโอแอนิเมชัน
- Scenes (มิถุนายน): การสร้างฉากหรือโครงเรื่องแบบอินเทอร์แอกทีฟ ที่ผู้ใช้สามารถเข้าไป “ร่วมวง” เล่าเรื่องกับตัวละครที่ชอบได้
- Streams (มิถุนายน): ฟีเจอร์ที่ให้ตัวละคร AI สองตัวมาโต้ตอบกันแบบไดนามิก (ให้ AI คุยกันเอง)
- Community Feed (สิงหาคม): โซเชียลฟีดที่ผู้ใช้สามารถแชร์ตัวละคร, Scenes, วิดีโอ และคอนเทนต์อื่น ๆ ที่พวกเขาสร้างขึ้นบนแพลตฟอร์ม
ในแถลงการณ์ถึงผู้ใช้อายุต่ำกว่า 18 ปี Character.AI ได้กล่าวขอโทษสำหรับการเปลี่ยนแปลงนี้ โดยระบุว่า “เรารู้ว่าพวกคุณส่วนใหญ่ใช้ Character.AI เพื่อปลดปล่อยความคิดสร้างสรรค์ในขอบเขตที่กำหนด… เราไม่ได้ตัดสินใจยกเลิกแชทปลายเปิดนี้อย่างง่ายดาย แต่เราคิดว่ามันเป็นสิ่งที่ถูกต้องที่ต้องทำ เมื่อพิจารณาถึงคำถามที่เกิดขึ้นว่าวัยรุ่น ‘ควร’ จะมีปฏิสัมพันธ์กับเทคโนโลยีใหม่อย่างไร”
Anand ย้ำว่า “เราไม่ได้ปิดแอปสำหรับเด็กต่ำกว่า 18… เราแค่ปิดแชทปลายเปิด… เราหวังว่าพวกเขาจะย้ายไปสู่ประสบการณ์อื่น และประสบการณ์เหล่านั้นจะดีขึ้นเรื่อย ๆ เรากำลังเดิมพันครั้งใหญ่กับ AI Gaming, วิดีโอสั้น AI และการเล่าเรื่องด้วย AI”
เมื่อเงาของรัฐบาลเริ่มคืบคลานจนต้องเริ่มปรับตัว
Anand ยอมรับว่ามีความเป็นไปได้ที่วัยรุ่นอาจจะแค่ “ย้ายบ้าน” ไปยังแพลตฟอร์ม AI อื่น ๆ เช่น OpenAI (ซึ่งก็เพิ่งมีข่าววัยรุ่นฆ่าตัวตายหลังคุยกับ ChatGPT เช่นกัน) ที่ยังคงอนุญาตให้มีการสนทนาแบบปลายเปิด
“ผมหวังว่าการที่เราเป็นผู้นำในการขยับตัวครั้งนี้ จะเป็นการสร้างมาตรฐานใหม่ในอุตสาหกรรมว่า สำหรับผู้ใช้อายุต่ำกว่า 18 ปี แชทแบบปลายเปิดอาจไม่ใช่หนทางหรือผลิตภัณฑ์ที่ควรนำเสนอ” Anand กล่าว “สำหรับเรา ผมคิดว่านี่คือ Trade-off ที่ถูกต้องที่ต้องทำ ผมมีลูกสาวอายุ 6 ขวบ และผมอยากให้เธอโตขึ้นมาในสภาพแวดล้อมที่ปลอดภัยกับ AI อย่างมีความรับผิดชอบ”
แต่การตัดสินใจนี้ ไม่ได้เกิดขึ้นในสุญญากาศ มันเกิดขึ้นในขณะที่ “ฝ่ายนิติบัญญัติ” กำลังไล่บี้อุตสาหกรรมนี้อย่างหนัก
เพียงไม่กี่วันก่อนหน้านี้ วุฒิสมาชิกสหรัฐฯ สองคนคือ Josh Hawley และ Richard Blumenthal ได้ประกาศว่าพวกเขาจะ “เสนอกฎหมาย” เพื่อ “แบน” (Ban) แชทบอทที่เป็นเพื่อน AI (AI Chatbot Companions) ไม่ให้มีให้บริการแก่ผู้เยาว์โดยเด็ดขาด หลังจากได้รับเรื่องร้องเรียนจากผู้ปกครองจำนวนมากว่าผลิตภัณฑ์เหล่านี้ผลักดันให้ลูกหลานของพวกเขาเข้าสู่บทสนทนาทางเพศ, การทำร้ายตัวเอง และการฆ่าตัวตาย
ก่อนหน้านี้ รัฐแคลิฟอร์เนียก็ได้กลายเป็นรัฐแรกที่ออกกฎหมายควบคุม AI Companion Chatbots โดยตรง โดยกำหนดให้บริษัทต้องรับผิดชอบหากแชทบอทของตนไม่ผ่านมาตรฐานความปลอดภัยที่กฎหมายกำหนด
การเคลื่อนไหวของ Character.AI ครั้งนี้ จึงเป็นการ “ชิงลงมือ” ก่อนที่กฎหมายจะมาบังคับนั่นเอง
นอกจากนี้ บริษัทยังประกาศจัดตั้งและให้ทุนสนับสนุน AI Safety Lab ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่เป็นอิสระ เพื่ออุทิศให้กับการสร้างนวัตกรรมด้านความปลอดภัยสำหรับฟีเจอร์ความบันเทิงที่ขับเคลื่อนด้วย AI ในอนาคต “มีความพยายามมากมายในอุตสาหกรรมเรื่องการ Coding หรือ Use case อื่น ๆ” Anand กล่าว “แต่เราคิดว่ายังไม่มีการทำงานมากพอในด้าน ‘Agentic AI’ ที่ขับเคลื่อนความบันเทิง และความปลอดภัยจะเป็นหัวใจสำคัญของเรื่องนี้”
Thumbsup มองว่า การตัดสินใจของ Character.AI คือสัญญาณเตือนภัยที่ดังที่สุดในอุตสาหกรรม “AI เพื่อผู้บริโภค” มันคือการยอมรับความจริงที่เจ็บปวดว่า โมเดลธุรกิจ “AI Companion” นั้น มีความเสี่ยงและความรับผิดชอบ (Liability) สูงเกินไปอย่างมหาศาล โดยเฉพาะเมื่อกลุ่มเป้าหมายคือเยาวชนที่สภาพจิตใจเปราะบาง
ในมุมมองของนักการตลาดและคนทำโปรดักต์ นี่คือบทเรียนราคาแพงเรื่อง “Product-Market-Safety Fit” Character.AI ค้นพบ “ตลาด” ที่ใหญ่มาก (วัยรุ่นที่ต้องการเพื่อนคุย) และสร้าง “โปรดักต์” ที่ตอบโจทย์นั้นได้อย่างน่าทึ่ง (AI ที่คุยสนุกและติดหนึบ) แต่พวกเขาละเลยมิติที่สาม นั่นคือ “ความปลอดภัย” (Safety)
เมื่อโศกนาฏกรรมเกิดขึ้นและหน่วยงานกำกับดูแลเริ่มขยับ พวกเขาจึงถูกบังคับให้เลือก พวกเขาเลือกที่จะ “ฆ่า” โปรดักต์หลักที่สร้างการเติบโต (แชทปลายเปิด) เพื่อรักษา “บริษัท” ให้รอดพ้นจากกฎหมายและสร้างความยั่งยืนในระยะยาว
การ Pivot ไปสู่ “แพลตฟอร์มสร้างสรรค์” (Creation Platform) จึงไม่ใช่แค่การเปลี่ยนฟีเจอร์ แต่คือการเปลี่ยน “แก่น” ของธุรกิจ จากการขาย “ความสัมพันธ์” (Relationship) ที่อันตราย ไปสู่การขาย “เครื่องมือ” (Utility/Entertainment) ที่ควบคุมได้ง่ายกว่า มันคือการเปลี่ยนจาก “เพื่อน” ไปเป็น “ของเล่น”
นี่คือจุดสิ้นสุดของยุค “Wild West” สำหรับ AI Companion และอาจเป็นจุดเริ่มต้นของยุค “Walled Garden” (สวนที่มีกำแพงล้อม) ที่ AI สำหรับเยาวชนจะถูกจำกัด, ตรวจสอบ และควบคุมอย่างเข้มงวด คำถามคือ “การสร้างสรรค์” จะสามารถสร้าง Engagement ได้ “ติดหนึบ” เท่ากับ “การคุย” หรือไม่? นี่คือเดิมพันมูลค่าหลายพันล้านที่ Character.AI ต้องลุ้น
อ่านเพิ่มเติม
