Найкращий спосіб представити випадковий ліс у публікації?

Я використовую алгоритм випадкових лісів як надійний класифікатор двох груп у мікромасивному дослідженні з 1000-ма функціями.

• Який найкращий спосіб представити випадковий ліс, щоб було достатньо інформації для його відтворення на папері?
• Чи є метод R в R фактично побудувати дерево, якщо є невелика кількість особливостей?
• Чи є оцінка OOB рівня помилок найкращою статистикою для цитування?

Що стосується того, щоб зробити його відтворюваним, найкращим способом є надання відтворюваного дослідження (тобто коду та даних) разом із документом. Зробіть це доступним на своєму веб-сайті або на хостинговому сайті (наприклад, github).

Що стосується візуалізації, Лео Брейман зробив цікаву роботу над цим (див. Його домашню сторінку , зокрема розділ про графіку ).

Але якщо ви використовуєте R, randomForestпакет має деякі корисні функції:

data(mtcars)
mtcars.rf <- randomForest(mpg ~ ., data=mtcars, ntree=1000, keep.forest=FALSE,
                           importance=TRUE)
plot(mtcars.rf, log="y")
varImpPlot(mtcars.rf)

І

set.seed(1)
data(iris)
iris.rf <- randomForest(Species ~ ., iris, proximity=TRUE,
                        keep.forest=FALSE)
MDSplot(iris.rf, iris$Species)

Мені невідомий простий спосіб насправді побудувати дерево, але ви можете скористатися getTreeфункцією для отримання дерева та побудови ділянки окремо.

getTree(randomForest(iris[,-5], iris[,5], ntree=10), 3, labelVar=TRUE)

У презентації Стробля / Зейле на тему "Чому і як використовувати випадкові лісові мінливі значення (і як не слід)" є приклади дерев, які повинні бути вироблені таким чином. У цій публікації в блозі про моделі дерев є кілька приємних прикладів графіків дерев CART, які ви можете використовувати, наприклад.

Як зауважив @chl, одне дерево не має особливого значення в цьому контексті, тому його не вистачає для пояснення, що таке випадковий ліс, я б не включав це в документ.

1. Як писав Шейн; зробити його відтворюваним дослідженням + включити випадкові насіння, оскільки РФ є стохастичним.
2. Перш за все, побудувати окремі дерева, що утворюють РФ, - це нісенітниця; це класифікатор ансамблю, він має сенс лише в цілому. Але навіть будувати весь ліс - це нісенітниця - це класифікатор чорної скриньки, тому він не має на меті пояснювати дані своєю структурою, а повторювати оригінальний процес. Натомість зробіть кілька сюжетів, які запропонував Шейн.
3. На практиці OOB - це дуже гарне наближення помилок; але це не є загальноприйнятим фактом, тому для публікації краще також скласти резюме для його підтвердження.

Майте на увазі застереження в інших відповідях про сюжет, обов'язково значущих. Але якщо ви хочете сюжет для ілюстративних / педагогічних цілей, може бути корисним наступний фрагмент R. Не важко додати "крапку" до крайового тексту, якщо вам це потрібно.

to.dendrogram <- function(dfrep,rownum=1,height.increment=0.1){

  if(dfrep[rownum,'status'] == -1){
    rval <- list()

    attr(rval,"members") <- 1
    attr(rval,"height") <- 0.0
    attr(rval,"label") <- dfrep[rownum,'prediction']
    attr(rval,"leaf") <- TRUE

  }else{##note the change "to.dendrogram" and not "to.dendogram"
    left <- to.dendrogram(dfrep,dfrep[rownum,'left daughter'],height.increment)
    right <- to.dendrogram(dfrep,dfrep[rownum,'right daughter'],height.increment)
    rval <- list(left,right)

    attr(rval,"members") <- attr(left,"members") + attr(right,"members")
    attr(rval,"height") <- max(attr(left,"height"),attr(right,"height")) + height.increment
    attr(rval,"leaf") <- FALSE
    attr(rval,"edgetext") <- dfrep[rownum,'split var']
    #To add Split Point in Dendrogram
    #attr(rval,"edgetext") <- paste(dfrep[rownum,'split var'],"\n<",round(dfrep[rownum,'split point'], digits = 2),"=>", sep = " ")
  }

  class(rval) <- "dendrogram"

  return(rval)
}

mod <- randomForest(Species ~ .,data=iris)
tree <- getTree(mod,1,labelVar=TRUE)

d <- to.dendrogram(tree)
str(d)
plot(d,center=TRUE,leaflab='none',edgePar=list(t.cex=1,p.col=NA,p.lty=0))