KNN Algorithm

Multiple Choice

ข้อใดต่อไปนี้เป็นคำกล่าวที่ไม่ถูกต้องเกี่ยวกับ KNN Algorithm

• KNN ใช้ได้กับปัญหาการจำแนกแบบหลายกลุ่ม

• KNN ใช้ได้กับปัญหาการจำแนกแบบไบนารีเท่านั้น

• KNN ใช้ได้สำหรับกรณีที่ตัวแปรต้นเป็นเชิงคุณภาพและเชิงปริมาณ

• KNN ใช้ได้กับกรณีที่ตัวแปรตามเป็นเชิงปริมาณและเชิงคุณภาพ

Fill in the Blanks

จากรูปที่ 6 ถ้าจุด A คือ (1,1) และจุด B คือ (5,4) ระยะทางยุคลิด (Euclidean Distance) ระหว่าง A และ B คือเท่าไหร่

Fill in the Blanks

จากรูปที่ 6 ถ้าจุด A คือ (1,1) และจุด B คือ (5,4) ระยะทางแบบแมนฮัตตัน (Manhattan distance) ระหว่าง A และ B คือ เท่าไหร่

Multiple Choice

จากรูปที่ 6 ถ้าจุด A คือ (1,1) และจุด B คือ (5,4) ระยะทางที่สั้นที่สุดระหว่าง A และ B คือ เส้นสีอะไร?

• น้ำเงิน

• แดง

• เขียว

Multiple Choice

ระยะทางแมนฮัตตัน (Manhattan Distance) เป็นกรณีพิเศษของระยะทางมินคอฟสกี (Minkowski Distance) เมื่อค่าพารามิเตอร์ p เท่ากับเท่าใด

• 2

• 0

• 1

• Infinity

Multiple Choice

ระยะห่างยุคลิด (Euclidean Distance) เป็นกรณีพิเศษของระยะห่างมินคอฟสกี (Minkowski Distance) เมื่อค่าพารามิเตอร์ p เท่ากับเท่าใด

• 1
• Infinity

• 0

• 2

Multiple Choice

ข้อใดถูกต้องที่สุดเกี่ยวกับระยะทางมินคอฟสกี (Minkowski Distance)

• มีค่าเป็นจำนวนเต็มบวกเท่านั้น

• มีค่าเป็นจำนวนเต็มบวกหรือลบ

• มีค่าเป็นจำนวนจริงบวกหรือลบ

• มีค่าเป็นจำนวนจริงบวกเท่านั้น

Fill in the Blanks

จากรูป จงคำนวณระยะทางระหว่างจุด A และ B โดยใช้ Minkowski Distance (กำหนด p=3) (ตอบเป็นทศนิยม 2 ตำแหน่ง)

Multiple Choice

ข้อใดถูกต้องที่สุดเกี่ยวกับระยะทางแฮมมิ่ง (Hamming Distance)

• มีค่าเป็นจำนวนเต็มบวกเท่านั้น

• มีค่าเป็นจำนวนเต็มบวกหรือลบ

• มีค่าเป็นจำนวนจริงบวกหรือลบ

• มีค่าเป็นจำนวนจริงบวกเท่านั้น

Fill in the Blanks

พิจารณา codewords vi = (110100) และ vj = (111000)
ระยะห่าง Hamming ระหว่าง vi​ กับ vj เท่ากับเท่าไหร่?

Multiple Choice

เปรียบเทียบระยะทาง Hamming ของคู่ข้อมูลต่อไปนี้ คู่ไหนมีระยะทาง Hamming มากกว่ากัน?

• คู่ที่ 1: v_a=(1100101) และ v_b=(1001101)

• คู่ที่ 2: v_c=(01101) และ v_d=(11111)

• คู่ที่ 1 มีระยะทาง Hamming มากกว่า

• คู่ที่ 2 มีระยะทาง Hamming มากกว่า

• ระยะทาง Hamming ของทั้งสองคู่เท่ากัน

• ไม่สามารถตัดสินได้จากข้อมูลนี้

Multiple Choice

Regression Model และ Decision Tree เป็นตัวอย่างของ Eager Learning เนื่องจากเป็นการเรียนรู้ pattern จากข้อมูลฝึกและสร้างโมเดลล่วงหน้าก่อนใช้งาน ในขณะที่ Lazy Learning จะไม่สร้างโมเดลล่วงหน้า แต่จะรอจนกว่าได้รับข้อมูลใหม่แล้วค่อยคำนวณ นอกจากนี้ Regression Model ยังเป็นตัวอย่างของ Parametric Model เนื่องจากมีโครงสร้างของ model ที่ชัดเจนและมีข้อตกลงเบื้องต้นเกี่ยวกับข้อมูล

ดังนั้น KNN เป็น algorithm แบบใด

• Non-parametric and Lazy Learning

• Parametric and Lazy Learning

• Parametric and Eager Learning

• Non-parametric and Eager Learning

Fill in the Blanks

จากกราฟ คุณคิดว่าค่า k ที่เหมาะสมที่สุดเท่ากับเท่าไหร่ ?

Multiple Select

คุณคิดว่าในกรณีที่ข้อมูลมีหน่วยวัดที่แตกต่างกัน (เช่น น้ำหนักเป็นกิโลกรัม และส่วนสูงเป็นเซนติเมตร) การคำนวณระยะทางใน KNN จะได้รับผลกระทบอย่างไร และควรมีวิธีแก้ไขอย่างไรบ้าง? (อาจมีคำตอบที่ถูกต้องมากกว่า 1 ข้อ)

• ตัวแปรที่มีค่าตัวเลขขนาดใหญ่กว่าจะมีอิทธิพลต่อการคำนวณระยะทางมากกว่า ทำให้ KNN ให้ความสำคัญกับตัวแปรนั้นมากเกินไป

• การคำนวณของ KNN จะไม่ถูกกระทบ เนื่องจากอัลกอริทึมสามารถปรับค่าให้เหมาะสมได้โดยอัตโนมัติ

• วิธีแก้ไขคือการทำ Normalization (เช่น Min-Max scaling) เพื่อปรับให้ค่าของตัวแปรทั้งหมดอยู่ในช่วงเดียวกัน

• วิธีแก้ไขคือการทำ Standardization (เช่น Z-score transformation) เพื่อปรับให้แต่ละตัวแปรมีค่าเฉลี่ยเท่ากับ 0 และส่วนเบี่ยงเบนมาตรฐานเท่ากับ 1

• การเลือกใช้ มาตรวัดระยะทางที่ไม่ขึ้นกับสเกลของข้อมูล (เช่น Cosine Similarity) สามารถช่วยลดผลกระทบจากความแตกต่างของหน่วยวัดได้

Multiple Choice

เหตุใดอัลกอริทึม K-NN จึงถูกเรียกว่า 'Lazy Learner'

• เพราะอัลกอริทึมเรียนรู้ช้ามากในช่วงการฝึกฝน

• K-NN ทำงานได้ดีกับข้อมูลที่มีความสัมพันธ์เชิงเส้นระหว่างตัวแปรตามและตัวแปรทำนายเท่านั้น

• K-NN ไม่มีการเรียนรู้โมเดลในช่วงการฝึกฝน แต่จะเก็บข้อมูลชุดฝึกฝนไว้ใช้ตอนทำนาย

• K-NN ต้องการข้อมูลชุดฝึกฝนจำนวนมากและต้องมีเส้นขอบเขตการตัดสินใจหรือกฎการตัดสินใจที่ตายตัว

Multiple Choice

ข้อใดต่อไปนี้ถูกต้องเกี่ยวกับ k-NN algorithm

1. k-NN จะทำงานได้ดีก็ต่อเมื่อข้อมูลทั้งหมดมีสเกลเดียวกัน

2. k-NN มักทำงานได้ดีเมื่อจำนวนตัวแปรอิสระ (features) ไม่มากนัก แต่ประสิทธิภาพจะลดลงเมื่อจำนวนตัวแปรอิสระมีมากเกินไป (curse of dimensionality)

3. k-NN ไม่มีสมมติฐานเบื้องต้นเกี่ยวกับรูปแบบของฟังก์ชันที่ใช้ในการอธิบายความสัมพันธ์ระหว่างตัวแปรอิสระและตัวแปรตาม

• 1 และ 2

• 1 และ 3

• 3 เท่านั้น

• ถูกทุกข้อ

Multiple Choice

เมื่อคุณพบ noise ในข้อมูล ตัวเลือกใดต่อไปนี้ที่คุณจะพิจารณาใน KNN

• เพิ่มค่า K

• ลดค่า K

• Noise ไม่มีผลกระทบต่อค่า K

• ไม่มีข้อใดถูกต้อง

Multiple Choice

เทคนิค m-fold Cross-Validation มีไว้เพื่อวัตถุประสงค์ใดใน K-NN

• เพื่อหาค่า K ที่เหมาะสมที่สุดโดยการประเมินประสิทธิภาพของโมเดล

• เพื่อเลือก Distance Metric ที่ดีที่สุด

• เพื่อเพิ่มความเร็วในการคำนวณของอัลกอริทึม

• เพื่อลดจำนวนข้อมูลที่ต้องใช้ในการฝึกฝน