| http://dbpedia.org/ontology/abstract
|
In various science/engineering application … In various science/engineering applications, such as independent component analysis, image analysis, genetic analysis, speech recognition, manifold learning, and time delay estimation it is useful to estimate the differential entropy of a system or process, given some observations. The simplest and most common approach uses histogram-based estimation, but other approaches have been developed and used, each with its own benefits and drawbacks. The main factor in choosing a method is often a trade-off between the bias and the variance of the estimate, although the nature of the (suspected) distribution of the data may also be a factor.ribution of the data may also be a factor.
, Das Themengebiet der Entropieschätzung bef … Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. Aufgrund der naturgegebenenstatistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematischeAbweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen Maximum-Likelihood-Schätzer für die Entropie werden die Wahrscheinlichkeiten , , in der Shannon-Entropie , durch die Maximum-Likelihood-Schätzer ersetzt. Erscheint im Falle voninsgesamt Beobachtungen das Ereignis mit einer absoluten Häufigkeitvon , so führt die Verwendung von zu dem in der Praxis häufig verwendeten Maximum-Likelihood-Schätzer für die Entropie Dieser Schätzer ist aus statistischer Sicht besonders geeignet, wenn die Stichprobe sehr viel größer als die mögliche Anzahl der unterschiedlichen Ereignisse ist, d. h. gegeben ist. Andernfalls führt der obige Schätzer oft zu einer systematischen Unterschätzung der Entropie. Dieser Fehler wird besonders dann merklich, wenn der Umfang der Stichprobe nicht sehr viel größer als die Anzahl der unterschiedlichen Nachrichten der Quelle ist. In der Praxis ist jedoch letzteres oft von besonderem Interesse.ch letzteres oft von besonderem Interesse.
, Odhad entropie je v mnoha oborech užitečný … Odhad entropie je v mnoha oborech užitečný jako odhad systémů nebo procesů, který je založen na (jejich) pozorování. Nejjednodušší a nejčastěji používaný je odhad založený na histogramu, avšak jsou používány i jiné přístupy, přičemž každý má své výhody a nevýhody. Hlavním hlediskem při výběru metody je otázka kompromisu mezi tendencí rozptylem odhadu, ale faktorem může být i povaha (podezřelost) distribuce dat.být i povaha (podezřelost) distribuce dat.
|
| http://dbpedia.org/ontology/wikiPageID
|
18246628
|
| http://dbpedia.org/ontology/wikiPageLength
|
8161
|
| http://dbpedia.org/ontology/wikiPageRevisionID
|
1007427848
|
| http://dbpedia.org/ontology/wikiPageWikiLink
|
http://dbpedia.org/resource/Weighted_sum +
, http://dbpedia.org/resource/Differential_entropy +
, http://dbpedia.org/resource/Mixture_model +
, http://dbpedia.org/resource/Maximum_likelihood +
, http://dbpedia.org/resource/William_Bialek +
, http://dbpedia.org/resource/Independent_component_analysis +
, http://dbpedia.org/resource/Probability_density_function +
, http://dbpedia.org/resource/Multiplicative_inverse +
, http://dbpedia.org/resource/Histogram +
, http://dbpedia.org/resource/Ilya_Nemenman +
, http://dbpedia.org/resource/Nearest_neighbour_distribution +
, http://dbpedia.org/resource/Image_analysis +
, http://dbpedia.org/resource/Markov_chain +
, http://dbpedia.org/resource/Category:Random_number_generation +
, http://dbpedia.org/resource/Category:Statistical_randomness +
, http://dbpedia.org/resource/Entropy_%28information_theory%29 +
, http://dbpedia.org/resource/Category:Entropy_and_information +
, http://dbpedia.org/resource/Density_estimation +
, http://dbpedia.org/resource/Dirichlet_distribution +
, http://dbpedia.org/resource/Manifold_learning +
, http://dbpedia.org/resource/Bias_%28statistics%29 +
, http://dbpedia.org/resource/Variance +
, http://dbpedia.org/resource/Speech_recognition +
, http://dbpedia.org/resource/Expectation_maximization +
, http://dbpedia.org/resource/Category:Information_theory +
, http://dbpedia.org/resource/Genetic_analysis +
, http://dbpedia.org/resource/Bayesian_estimator +
|
| http://dbpedia.org/property/wikiPageUsesTemplate
|
http://dbpedia.org/resource/Template:Citation_needed +
, http://dbpedia.org/resource/Template:Reflist +
|
| http://purl.org/dc/terms/subject
|
http://dbpedia.org/resource/Category:Entropy_and_information +
, http://dbpedia.org/resource/Category:Random_number_generation +
, http://dbpedia.org/resource/Category:Information_theory +
, http://dbpedia.org/resource/Category:Statistical_randomness +
|
| http://www.w3.org/ns/prov#wasDerivedFrom
|
http://en.wikipedia.org/wiki/Entropy_estimation?oldid=1007427848&ns=0 +
|
| http://xmlns.com/foaf/0.1/isPrimaryTopicOf
|
http://en.wikipedia.org/wiki/Entropy_estimation +
|
| owl:sameAs |
http://www.wikidata.org/entity/Q1345207 +
, http://cs.dbpedia.org/resource/Odhad_entropie +
, https://global.dbpedia.org/id/Mgbo +
, http://rdf.freebase.com/ns/m.04cy_js +
, http://dbpedia.org/resource/Entropy_estimation +
, http://de.dbpedia.org/resource/Entropiesch%C3%A4tzung +
|
| rdfs:comment |
Das Themengebiet der Entropieschätzung bef … Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben. Für die formale Berechnung derShannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegendenNachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man istdarauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobezu schätzen, um damit auf die Entropie der Gesamtheit zu schließen. ,ie Entropie der Gesamtheit zu schließen. ,
, In various science/engineering application … In various science/engineering applications, such as independent component analysis, image analysis, genetic analysis, speech recognition, manifold learning, and time delay estimation it is useful to estimate the differential entropy of a system or process, given some observations.ystem or process, given some observations.
, Odhad entropie je v mnoha oborech užitečný … Odhad entropie je v mnoha oborech užitečný jako odhad systémů nebo procesů, který je založen na (jejich) pozorování. Nejjednodušší a nejčastěji používaný je odhad založený na histogramu, avšak jsou používány i jiné přístupy, přičemž každý má své výhody a nevýhody. Hlavním hlediskem při výběru metody je otázka kompromisu mezi tendencí rozptylem odhadu, ale faktorem může být i povaha (podezřelost) distribuce dat.být i povaha (podezřelost) distribuce dat.
|
| rdfs:label |
Odhad entropie
, Entropieschätzung
, Entropy estimation
|
