Энтропия в информационных технологиях

Уровень 0 · материалов: 2

В кластер входят документы о применении концепции энтропии для построения моделей принятия решений и классификации данных, но не входят документы о конкретных языках программирования с одноименным названием.

Общие признаки: понятие энтропии, обработка данных, алгоритмы и языки программирования

Группа выше: Кодирование, энтропия и целостность данных

Материалы

• #17104 — Entropy and Decision Tree Classifiers — Представитель этого кластера

  Энтропия и деревья принятия решений — stemm

  Смысл: The main idea is to explain how the mathematical and physical concept of entropy can be applied to create decision tree classifiers that partition data into classes by iteratively reducing uncertainty.

  The article explains the mathematical transition from combinatorial and Shannon entropy to the construction of decision tree classifiers and Random Forest ensembles.

• #18060 — Mathematical Foundations of the Akinator Game Logic

  Акинатор и математика — hr0nix

  Смысл: The main idea is to demonstrate how Bayesian probability and information entropy can be used to build an adaptive guessing game like Akinator, moving from rigid decision trees to a flexible, probabilistic model that learns from data.

  The author explains how to recreate Akinator's logic using Bayes' Theorem for character probability updates and information entropy for optimal question selection.