Base/Knowledges/IT/Алгоритмы/Алгоритм k-ближайших соседей (K-Nearest Neighbors).md
2026-02-23 19:52:05 +03:00

35 lines
2.1 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

#алгоритмы
> Если вы пытаетесь выполнить классификацию чего-либо, сначала попробуйте применить алгоритм k ближайших соседей
![[Pasted image 20250123090038.png]]
Среди соседей больше апельсинов, чем грейпфрутов. Следовательно, этот
фрукт, скорее всего, является апельсином.
![[Pasted image 20250123090113.png]]
Например, расстояние между A и B вычисляется так: $\sqrt{((x_1-x_2)^2 + (y_1-y_2)^2)}$
![[Pasted image 20250123090408.png]]
Вместо вычисления расстояния в двух измерениях можно вычислить расстояние в пяти измерениях. Формула расстояния остается неизменной.
![[Pasted image 20250123090549.png]]
Метрика расстояния с пятью числами сообщает, насколько близки между собой эти наборы.
У алгоритма k-ближайших соседей есть два основных применения
- классификация - распределение по категориям;
- регреcсия - прогнозирование ответа (в числовом выражении).
«Извлечением признаков» называется преобразование элемента (например, фрукта или пользователя) в список чисел, которые могут использоваться для сравнения.
Качественный выбор признаков — важная часть успешного алгоритма k ближайших соседей.
![[Pasted image 20250123091457.png]]
Применение
- Машинное обучение (рекомендации, распознавание текста, прогнозирование)
Источники:
- [[Адитья Бхаргава - Грокаем Алгоритмы]]