求随机森林树元素加权频率的R函数

Question

我所做的:寻找潜在交互的一个很好的经验法则是在树的高处寻找接近的变量分裂，即在根节点附近。鉴于此，我使用getTree提取节点上的拆分变量，并删除了终端节点。我使用MaxNuMREV将该值旋转到最大值，即(13改为31)。使用double lapply，我遍历所有树并获得功能交互。我对树中较低的“更随机”部分应用从1到~0.06的行权重。

问题:我使用了多个加权频率方法，但都没有效果。我需要得到加权频率值来判断交互的重要性。例如，特征交互31可以具有由每个实例行位置确定的权重。

library(dplyr); library(RandomForest)
Ntrees=500
RRFModel<- randomForest(Ozone ~ ., data=airquality, mtry=3,importance=TRUE, na.action=na.omit, ntrees=Ntrees)

MaxNuMREV=function(x){  reverse_int <- function(n) {
                                   t1 <- floor(log10(n)); t2 <- 0
                                   for (i in t1:1) {t2 <- t2 + floor(n/10^i) * 10^(t1-i)}
                                   return(n*10^t1 - 99*t2)}
                         return(max(x,reverse_int(x)))
                     }

SplitVar=lapply(1:Ntrees, function(i){getTree(RRFModel, k=i, labelVar=FALSE)[,"split var"]}) 
MinLen=min(unlist(lapply(1:Ntrees,function(i){length(SplitVar[[i]][(SplitVar[[i]])!=0])})))
RowWeight=exp(-0.1*c(1:(MinLen-1)))
DoubleLL=lapply(1:Ntrees, function(j){
                            VV=matrix(lapply(1:(MinLen-1),function(i){ UU=SplitVar[[j]][(SplitVar[[j]])!=0][(i):(i+1)]
                              if(sd(unlist(UU))==0){UU=0
                              } else {UU=MaxNuMREV(as.numeric(paste0(UU,collapse="")))}
                            return((UU))}))
                            })

Answer 1

不要紧，我想出了怎么让它工作。这可能不是最有效的方法，但它是有效的。我一直在这里，以防其他人需要它。

SplitVar=lapply(1:Ntrees, function(i){getTree(RRFModel, k=i, labelVar=FALSE)[,"split var"]})
MaxNuMREV=function(x){  reverse_int <- function(n) {
                                   t1 <- floor(log10(n)); t2 <- 0
                                   for (i in t1:1) {t2 <- t2 + floor(n/10^i) * 10^(t1-i)} 
                                   return(n*10^t1 - 99*t2)}
                        return(max(x,reverse_int(x)))
                       }

 MinLen=min(unlist(lapply(1:Ntrees,function(i){length(SplitVar[[i]][(SplitVar[[i]])!=0])})))
 RowWeight=exp(-0.1*c(1:(MinLen-1)))
 DoubleLL=lapply(1:Ntrees, function(j){
                 VV=matrix(lapply(1:(MinLen-1),function(i){ UU=SplitVar[[j]][(SplitVar[[j]])!=0][(i):(i+1)]
                              if(sd(unlist(UU))==0){UU=0
                              } else {UU=MaxNuMREV(as.numeric(paste0(UU,collapse="")))}
                           return(UU)}))
                  WW=data.frame(unlist(VV),RowWeight);colnames(WW)=c("var", "wt")
                  return(WW[WW[,1]!=0,])      })

 FULLRbind=do.call("rbind",DoubleLL)
 AGGR=aggregate(FULLRbind[,"wt"], by=list(Category=FULLRbind[,"var"]), FUN=sum)
 AGGR=AGGR[order(AGGR[,"x"],decreasing=TRUE),]