Base/Knowledges/IT/Алгоритмы/Алгоритм k-ближайших соседей (K-Nearest Neighbors).md
2026-02-23 19:52:05 +03:00

2.1 KiB
Raw Permalink Blame History

#алгоритмы

Если вы пытаетесь выполнить классификацию чего-либо, сначала попробуйте применить алгоритм k ближайших соседей

!Pasted image 20250123090038.png Среди соседей больше апельсинов, чем грейпфрутов. Следовательно, этот фрукт, скорее всего, является апельсином.

!Pasted image 20250123090113.png

Например, расстояние между A и B вычисляется так: \sqrt{((x_1-x_2)^2 + (y_1-y_2)^2)}

!Pasted image 20250123090408.png

Вместо вычисления расстояния в двух измерениях можно вычислить расстояние в пяти измерениях. Формула расстояния остается неизменной. !Pasted image 20250123090549.png

Метрика расстояния с пятью числами сообщает, насколько близки между собой эти наборы.

У алгоритма k-ближайших соседей есть два основных применения

  • классификация - распределение по категориям;
  • регреcсия - прогнозирование ответа (в числовом выражении).

«Извлечением признаков» называется преобразование элемента (например, фрукта или пользователя) в список чисел, которые могут использоваться для сравнения. Качественный выбор признаков — важная часть успешного алгоритма k ближайших соседей.

!Pasted image 20250123091457.png

Применение

  • Машинное обучение (рекомендации, распознавание текста, прогнозирование)

Источники: