Diff for /loncom/interface/statistics/lonproblemstatistics.pm between versions 1.16 and 1.21

version 1.16, 2002/08/06 17:38:26 version 1.21, 2002/08/13 13:57:25
Line 43  use Apache::lonhtmlcommon; Line 43  use Apache::lonhtmlcommon;
 use Apache::loncoursedata;  use Apache::loncoursedata;
 use GDBM_File;  use GDBM_File;
   
   my $jr;
   
 sub BuildProblemStatisticsPage {  sub BuildProblemStatisticsPage {
     my ($cacheDB, $students, $courseID, $c, $r)=@_;      my ($cacheDB, $students, $courseID, $c, $r)=@_;
     my %cache;      my %cache;
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {      $jr = $r;
         return '<html><body>Unable to tie database.</body></html>';  
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           $r->print('Unable to tie database.');
           return;
     }      }
   
     my $Ptr = '';      my $Ptr = '';
Line 66  sub BuildProblemStatisticsPage { Line 70  sub BuildProblemStatisticsPage {
                                             'ProblemStatistics',                                              'ProblemStatistics',
                                             'Statistics');                                              'Statistics');
     $Ptr .= '</td></tr>'."\n";      $Ptr .= '</td></tr>'."\n";
     $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'});      $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'}, 
                                         $cache{'DisplayLegend'});
     $Ptr .= '</table>';      $Ptr .= '</table>';
     $Ptr .= &ProblemStatisticsLegend();      if($cache{'DisplayLegend'} eq 'Show Legend') {
           $Ptr .= &ProblemStatisticsLegend();
       }
     $r->print($Ptr);      $r->print($Ptr);
     $r->rflush();      $r->rflush();
   
     untie(%cache);      my @Header = ("Homework Sets Order","#Stdnts","Tries","Mod",
     &Create_PrgWin($r);                    "Mean","#YES","#yes","%Wrng","DoDiff",
     my $count=0;                    "S.D.","Skew.","D.F.1st","D.F.2nd","Disc.");
     foreach (@$students) {  
         &Update_PrgWin(scalar(@$students),$count,$_,$r);  
         my $courseData =   
             &Apache::loncoursedata::DownloadCourseInformation($_, $courseID);  
         last if ($c->aborted());  
         if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {  
             &Apache::loncoursedata::ProcessStudentData(\%cache,   
                                                        $courseData, $_);  
             untie(%cache);  
         }  
         $count++;  
     }  
     &Close_PrgWin($r);  
     if($c->aborted()) { return; }  
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {  
         return '<html><body>Unable to tie database.</body></html>';  
     }  
   
     my %Header = (0,"Homework Sets Order",1,"#Stdnts",2,"Tries",3,"Mod",  
                   4,"Mean",5,"#YES",6,"#yes",7,"%Wrng",8,"DoDiff",  
                   9,"S.D.",10,"Skew.",11,"D.F.1st",12,"D.F.2nd", 13, "Disc.");  
     my $color=&setbgcolor(0);      my $color=&setbgcolor(0);
   
     my $state=$ENV{'form.ProblemStatisticsHeading'};   #    my %Discuss=&Apache::loncoursedata::LoadDiscussion($courseID);
   #    my ($upper, $lower) = &Discriminant(\%discriminant,$r);
     my $TempCache;      if(!defined($cache{'StatisticsCached'})) {
           untie(%cache);
     if ($state) {          &Apache::loncoursedata::DownloadStudentCourseDataSeparate($students,
  $TempCache=&CacheStatisticsTable($state,\%cache,\%Header,                                                                    'true',
  $r,$color);                                                                    $cacheDB,
     } else {                                                                        'true', 
  my %discriminant=();                                                                    'true',
  my @list=();                                                                    $courseID,
  my %Discuss=&Apache::loncoursedata::LoadDiscussion($courseID);                                                                    $r, $c);
  my $index=0;          if($c->aborted()) { return; }
  foreach (@$students) {  
     $index++;          unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
     &ExtractStudentData(\%cache, $_, \@list,\%Discuss, $r,              $r->print('Unable to tie database.');
                                 \%discriminant);              return;
  }          }
  my ($upper, $lower) = &Discriminant(\%discriminant,$r);          my ($problemData) = &ExtractStudentData(\%cache, $students);
  $TempCache= &BuildStatisticsTable(\%cache, $upper, $lower,           &CalculateStatistics($problemData);
    \@list, \%Header, $students,          untie(%cache);
    $r, $color);  
     }          unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {
     untie(%cache);              $r->print('Unable to tie database.');
               return;
     foreach (keys %$TempCache) {          }
         last if ($c->aborted());          foreach(keys(%$problemData)) {
         if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {              $cache{$_} = $problemData->{$_};
     $cache{$_}=$TempCache->{$_};          }
           $cache{'StatisticsCached'} = 'true';
           untie(%cache);
   
             untie(%cache);          unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
               $r->print('Unable to tie database.');
               return;
         }          }
     }      }
     if($c->aborted()) { return; }      my $orderedProblems = &SortProblems(\%cache, 
                                           $cache{'ProblemStatisticsSort'},
                                           $cache{'ProblemStatisticsAscend'});
       &BuildStatisticsTable(\%cache, $cache{'DisplayFormat'}, $orderedProblems, 
                             \@Header, $r, $color);
     untie(%cache);      untie(%cache);
   
       return;
 }  }
   
   
 #---- Problem Statistics Web Page ---------------------------------------  #---- Problem Statistics Web Page ---------------------------------------
   
 sub CreateProblemStatisticsTableHeading {  sub CreateProblemStatisticsTableHeading {
     my ($displayFormat,$sequenceSource,$sequenceTitle,$headings,$r)=@_;      my ($headings,$r)=@_;
     if($displayFormat eq 'Display CSV Format') {  
         $r->print('<br>"'.$sequenceTitle.'","');  
         $r->print($sequenceSource.'"');  
  return;  
     }  
     if ($sequenceSource eq 'Sorted by: ') {  
  $r->print('<br><b>'.$sequenceSource.$sequenceTitle.'</b>');  
     } else {  
         $r->print('<br><a href="'.$sequenceSource.  
   '" target="_blank">'.$sequenceTitle.'</a>');  
     }  
     my $Result = "\n".'<table border=2><tr><th>P#</th>'."\n";  
     for(my $nIndex=0; $nIndex < (scalar (keys %$headings)); $nIndex++) {   
  $Result .= '<th>'.'<input type="submit" name="';  
         $Result .= 'ProblemStatisticsHeading" value="';  
         $Result .= $headings->{$nIndex}.'" />'.'</th>'."\n";  
     }  
     $Result .= "\n".'</tr>'."\n";      
     $r->print($Result);  
     $r->rflush();  
 }  
   
 sub CloseTable {  
     my ($cache,$r)=@_;  
     if($cache->{'DisplayFormat'} eq 'Display CSV Format') {  
  return;  
     }      
     $r->print("\n".'</table>'."\n");  
     $r->rflush();  
 }  
   
   
 # Create progress  
 sub Create_PrgWin {  
     my ($r)=@_;  
     $r->print(<<ENDPOP);  
     <script>  
     popwin=open('','popwin','width=400,height=100');  
     popwin.document.writeln('<html><body bgcolor="#88DDFF">'+  
       '<title>LON-CAPA Statistics</title>'+  
       '<h4>Computation Progress</h4>'+  
       '<form name=popremain>'+  
       '<input type=text size=35 name=remaining value=Starting></form>'+  
       '</body></html>');  
     popwin.document.close();  
     </script>  
 ENDPOP  
   
     $r->rflush();  
 }  
   
 # update progress  
 sub Update_PrgWin {  
     my ($totalStudents,$index,$name,$r)=@_;  
     $r->print('<script>popwin.document.popremain.remaining.value="'.  
               'Computing '.$index.'/'.$totalStudents.': '.  
               $name.'";</script>');  
     $r->rflush();  
 }  
   
 # close Progress Line  
 sub Close_PrgWin {  
     my ($r)=@_;  
     $r->print('<script>popwin.close()</script>');  
     $r->rflush();   
 }  
   
    
 # ------ Dump the Student's DB file and handling the data for statistics table   
 sub ExtractStudentData {  
     my ($cache,$name,$list,$Discuss,$r,$discriminant)=@_;  
     my $totalTries = 0;  
     my $totalAwarded = 0;  
     my $spent=0;  
     my $spent_yes=0;  
     my $TotDiscuss=0;  
     my $TotalOpend = 0;  
     my $ProbSolved = 0;  
     my $ProbTot = 0;  
     my $TotFirst = 0;  
     my $TimeTot = 0;  
     my $Discussed=0;  
     my $discrim='';  
     my $tempSequenceOrder=100;  
   
 #$Apache::lonxml::debug=1;  
 #&Apache::lonhomework::showhash(%$cache);  
 #$Apache::lonxml::debug=0;  
   
     foreach my $sequence (split(':', $cache->{'orderedSequences'})) {  
  my $tempProblemOrder=100;  
         if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&  
            $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {  
             next;  
         }  
  $tempSequenceOrder++;  
   
         foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {  
             my $problem = $cache->{$problemID.':problem'};  
             my $LatestVersion = $cache->{$name.':version:'.$problem};  
     # Output dashes for all the parts of this problem if there  
             # is no version information about the current problem.  
             #if(!$LatestVersion) {  
             #    foreach my $part (split(/\:/,$cache->{$sequence.':'.  
             #                                          $problemID.  
             #                                          ':parts'})) {  
             #        $codes    .= "-,";  
             #        $attempts .= "0,";   
             #    }  
             #    next;  
             #}  
   
             my %partData=undef;  
     $partData{'count'}=0;  
             # Initialize part data, display skips correctly  
             # Skip refers to when a student made no submissions on that  
             # part/problem.  
             foreach my $part (split(/\:/,$cache->{$sequence.':'.  
                                                   $problemID.  
                                                   ':parts'})) {  
  $tempProblemOrder++;  
  $partData{'count'}++;  
                 $partData{$part.':order'}=$tempProblemOrder;  
                 $partData{$part.':tries'}=0;  
                 $partData{$part.':code'}='-';  
             }  
   
             # Looping through all the versions of each part, starting with the  
             # oldest version.  Basically, it gets the most recent   
             # set of grade data for each part.  
     for(my $Version=1; $Version<=$LatestVersion; $Version++) {  
  foreach my $part (split(/\:/,$cache->{$sequence.':'.  
                                                       $problemID.  
                                                       ':parts'})) {  
   
                     if(!defined($cache->{$name.":$Version:$problem".  
                                                ":resource.$part.solved"})) {  
                         # No grade for this submission, so skip  
                         next;  
                     }  
   
                     my $tries=0;  
                     my $time=0;  
                     my $awarded=0;  
     $Discussed=0;  
                     my $code='-';  
   
                     $awarded = $cache->{"$name:$Version:$problem:resource.".  
                                         "$part.awarded"};  
                     $partData{$part.':awarded'} = ($awarded) ? $awarded : 0;  
                     $totalAwarded += $awarded;  
   
                     $tries = $cache->{"$name:$Version:$problem".  
                                       ":resource.$part.tries"};  
                     $partData{$part.':tries'} = ($tries) ? $tries : 0;  
                     $partData{$part.':wrong'} = $partData{$part.':tries'};  
                     $totalTries += $tries;  
   
                     my $val = $cache->{$name.":$Version:$problem".  
                                        ":resource.$part.solved"};  
                     if    ($val eq 'correct_by_student')   {$code = 'C';}   
                     elsif ($val eq 'correct_by_override')  {$code = 'O';}  
                     elsif ($val eq 'incorrect_attempted')  {$code = 'I';}   
                     elsif ($val eq 'incorrect_by_override'){$code = 'I';}  
                     elsif ($val eq 'excused')              {$code = 'x';}  
                     $partData{$part.':code'}=$code;  
                     if($partData{$part.':wrong'} ne 0 &&   
                        ($code eq 'C' || $code eq 'O')) {  
                         $partData{$part.':wrong'}--;  
                     }  
                 }  
             }  
   
             # Loop through all the parts for the current problem in the   
             # correct order and prepare the output  
     my $partCounter=0;  
             foreach (split(/\:/,$cache->{$sequence.':'.$problemID.  
                                          ':parts'})) {  
  $partCounter++;  
                 my $Yes = 0;  
                 if($partData{$_.':code'} eq 'C' ||   
                    $partData{$_.':code'} eq 'O') {  
                     $Yes=1;  
                 }  
                 my $pOrder=$partData{$_.':order'};  
                 my $ptr = $tempSequenceOrder.':'.$pOrder.':'.$problemID;  
   
                 if($partData{'count'} > 1) {  
                     $ptr .= "*(part $_)";  
                 }  
                 $discrim .= '&';  
   
  my ($pr_no,$dod)=split('&',$ptr);  
 # my $DoDiff=$DoDiff->{$dod};  
 #               $r->print('<br>'.$name.'---'.$ptr.'==='.$DoDiff);  
   
                 my $Fac = ($partData{$_.':tries'}) ?   
                     ($partData{$_.':awarded'}/$partData{$_.':tries'}) : 0;  
                 my $DisF;  
                 if($Fac > 0 &&  $Fac < 1) {   
                     $DisF = sprintf( "%.4f", $Fac );  
                 } else {  
                     $DisF = $Fac;  
                 }  
   
                 if ($Discuss->{"$name:$problem"}) {  
     $TotDiscuss++;  
                     $Discussed=1;  
                 }  
                 my $time = $cache->{"$name:$LatestVersion:$problem:timestamp"};  
                 $discrim .= $tempSequenceOrder.'@'.$pOrder.'='.$DisF.'+'.$Yes;  
                 $ptr .= '&'.$partData{$_.':tries'}.  
                         '&'.$partData{$_.':wrong'}.  
                         '&'.$partData{$_.':code'};  
                 push (@$list, $ptr."&$Discussed");  
 #                $r->print('<br>'.$_.$name.'---'.$ptr);  
   
 #### if ($DoDiff>0.85) {  
   
                 $TimeTot += $time;      my $Str='';
       $Str .= '<tr>'."\n";
                 if ($Yes==1 && $partData{$_.':tries'}==1) {      $Str .= '<th bgcolor="#ffffe6">P#</th>'."\n";
     $TotFirst++;      foreach(@$headings) {
                 }   $Str .= '<th bgcolor="#ffffe6">'.'<a href="/adm/statistics?reportSelected=';
 # my $Acts= $Activity->{$name.':'.$problem};          $Str .= &Apache::lonnet::escape('Problem Statistics');
 # if ($Acts) {          $Str .= '&ProblemStatisticsSort=';
 #    my $Pt=&ProcAct( $Acts, $time );          $Str .= &Apache::lonnet::escape($_).'">'.$_.'</a>&nbsp</th>'."\n";
     #my ($spe,$beg) = split(/\+/,$Pt);  
 #                    my $spe= $Pt;  
 #    if ($Yes==1) {$spent_yes += $spe;}  
 #    $spent += $spe;  
     #$Beg += $beg;  
 #                   $r->print('<br>'.$name.'---'.$problem.'---'.$spe);  
 # }  
  $TotalOpend++;  
  $ProbTot++;  
   
                 $tempProblemOrder++;  
             }  
         }  
     }      }
     my $pstr;      $Str .= "\n".'</tr>'."\n";    
     if($totalTries) {  
  my $DisFac = ($totalAwarded/$totalTries);  
  my $DisFactor = sprintf( "%.4f", $DisFac );  
         my $TS = sprintf( "%.2f", $spent );  
         my $TS_yes = sprintf( "%.2f", $spent_yes );  
  $pstr=$DisFactor.':'.$name.':'.$ProbTot.':'.$TotalOpend.':'.  
               $totalTries.':'.$ProbSolved.':'.$TotFirst.':'.  
               $TS_yes.':'.$TS.':'.$TotDiscuss;  
  (%$discriminant)->{$pstr}=$discrim;  
     }  
 }  
   
 sub NumericSort {      return $Str;
     $a <=> $b;  
 }  
   
 sub OrderedSort  {  
     if ($ENV{'form.order'} eq 'Descending') {  
  $b <=> $a;  
     } else {   
  $a <=> $b;  
     }  
 }  }
   
   
   
 sub BuildStatisticsTable {  sub BuildStatisticsTable {
     my ($cache,$upper,$lower,$list,$headings,$students,$r,$color)=@_;      my ($cache,$displayFormat,$orderedProblems,$headings,$r,$color)=@_;
     my $NoElements = scalar @$list;  
     my @list=sort(@$list);  
   
 #6666666  #6666666
 #    my $file="/home/httpd/perl/tmp/183d.txt";  #    my $file="/home/httpd/perl/tmp/183d.txt";
Line 427  sub BuildStatisticsTable { Line 167  sub BuildStatisticsTable {
 ##777777  ##777777
 ##    $Str .= &Classify($discriminantFactor, $students);  ##    $Str .= &Classify($discriminantFactor, $students);
   
     my $p_count = 0;       if($displayFormat ne 'Display CSV Format') {
     my $dummy;          $r->print('<table border="0"><tr><td bgcolor="#777777">'."\n");
     my $p_val;          $r->print('<table border="0" cellpadding="3">'."\n");
     my $ResId;          $r->print(&CreateProblemStatisticsTableHeading($headings, $r));
     my %TempCache;      } else {
     my $cIdx=0;          $r->print('<br>');
       }
     foreach my $sequence (split(':', $cache->{'orderedSequences'})) {  
         if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&  
            $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {  
             next;  
         }  
         &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              $cache->{$sequence.':source'},  
                                              $cache->{$sequence.':title'},   
                                              $headings,$r);  
  my ($tar,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,  
                                                    $list[$cIdx]);  
         my ($SqOrd,$PrOrd,$Prob)=split(/\:/,$tar);  
  $sequence+=100;  
  while ($SqOrd==$sequence && $cIdx<$NoElements) {  
     my %storestats=();  
     my $pOrd=$PrOrd;  
     my $Temp = $Prob;  
     my $MxTries = 0;  
     my $TotalTries = 0;  
     my $YES = 0;  
     my $Incorrect = 0;  
     my $Override = 0;  
     my $StdNo = 0;  
     my $DiscNo=0;  
     my @StdLst;  
     while ($pOrd==$PrOrd && $cIdx<$NoElements)  
     {  
  $cIdx++;  
  $StdNo++;  
  $StdLst[ $StdNo ] = $Tries;  
  $TotalTries += $Tries;  
  if ( $MxTries < $Tries ) { $MxTries = $Tries; }   
  if ( $Code eq 'C' ){ $YES++; }  
  elsif( $Code eq 'I' ) { $Incorrect++; }  
  elsif( $Code eq 'O' ) { $Override++; }  
  elsif( $Code eq '-' ) { $StdNo--; }  
  ($tar,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,  
                                                      $list[$cIdx]);  
         ($SqOrd,$PrOrd,$Prob)=split(/\:/,$tar);  
     }  
   
     $p_count++;  
     my $Dummy;  
     ($ResId,$Dummy)=split(/\*/,$Temp);  
     $Temp = '<a href="'.$cache->{$ResId.':source'}.  
                 '" target="_blank">'.$cache->{$ResId.':title'}.$Dummy.'</a>';  
   
 #    my $urlres = $cache->{$sequence.':source'});  
 #check with Gerd  
     #symb of the problem (already decluttered and cleaned)  
     my $urlres = $cache->{$ResId.':problem'};  
   
 #------------------------ Compute the Average of Tries about one problem  
     my $Average = ($StdNo) ? $TotalTries/$StdNo : 0;  
   
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___timestamp'}=time;  
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___stdno'}=$StdNo;  
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___avetries'}=$Average;  
   
 #-------------------------------- Compute percentage of Wrong tries  
     my $Wrong = ( $StdNo ) ? 100 * ( $Incorrect / $StdNo ) : 0;  
   
 #-------------------------------- Compute Standard Deviation  
     my $StdDev = 0;   
     if ( $StdNo > 1 ) {  
  for ( my $n = 0; $n < $StdNo; $n++ ) {  
     my $Dif = $StdLst[ $n ]-$Average;  
     $StdDev += $Dif*$Dif;  
  }   
  $StdDev /= ( $StdNo - 1 );  
  $StdDev = sqrt( $StdDev );  
     }  
   
 #-------------------------------- Compute Degree of Difficulty  
     my $DoDiff = 0;  
     if( $TotalTries > 0 ) {  
  $DoDiff = 1 - ( ( $YES + $Override ) / $TotalTries );  
 #    $DoDiff =  ($TotalTries)/($YES + $Override+ 0.1);      
     }  
          
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___difficulty'}=$DoDiff;  
   
 #-------------------------------- Compute the Skewness  
     my $Skewness = 0;  
     my $Sum = 0;   
     if ( $StdNo > 0 && $StdDev > 0 ) {  
  for ( my $n = 0; $n < $StdNo; $n++ ) {  
     my $Dif = $StdLst[ $n ]-$Average;  
     $Skewness += $Dif*$Dif*$Dif;  
  }   
  $Skewness /= $StdNo;  
  $Skewness /= $StdDev*$StdDev*$StdDev;  
     }  
   
 #--------------------- Compute the Discrimination Factors  
             my ($Up1,$Up2)=split(/\:/,$upper->{$sequence.'@'.$pOrd});  
     my ($Lw1,$Lw2)=split(/\:/,$lower->{$sequence.'@'.$pOrd});  
   
     my $Dis1 = $Up1 - $Lw1;  
     my $Dis2 = $Up2 - $Lw2;  
     my $_D1 = sprintf("%.2f", $Dis1);  
     my $_D2 = sprintf("%.2f", $Dis2);  
   
 #-----------------  Some restition in presenting the float numbers  
     my $Avg = sprintf( "%.2f", $Average );  
     my $Wrng = sprintf( "%.1f", $Wrong );  
     my $SD = sprintf( "%.1f", $StdDev );  
     my $DoD = sprintf( "%.2f", $DoDiff );  
     my $Sk = sprintf( "%.1f", $Skewness );  
     my $join = $sequence.'@'.$pOrd.'&'.$Temp.'&'.$StdNo.'&'.  
                        $TotalTries.'&'.$MxTries.'&'.$Avg.'&'.  
                        $YES.'&'.$Override.'&'.$Wrng.'&'.$DoD.'&'.  
        $SD.'&'.$Sk.'&'.$_D1.'&'.$_D2.'&'.  
                        $DiscNo.'&'.$Prob;  
   
     $TempCache{'CacheTable:'.($p_count-1)}=$join;      my $count = 1;
       foreach(@$orderedProblems) {
           my ($sequence,$problem,$part)=split(':', $_);
   #        if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&
   #           $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {
   #            next;
   #        }
   
   
           my $ref = '<a href="'.$cache->{$problem.':source'}.
                     '" target="_blank">'.$cache->{$problem.':title'}.'</a>';
   #        my $ref = $cache->{$problem.':title'};
           my $title = $cache->{$problem.':title'};
           my $source = 'source';
           my $tableData = join('&', $ref, $title, $source,
                          $cache->{$_.':studentCount'},
                          $cache->{$_.':totalTries'},
                          $cache->{$_.':maxTries'},
                          sprintf("%.2f", $cache->{$_.':mean'}),
                          $cache->{$_.':correct'},
                          $cache->{$_.':correctByOverride'},
                          sprintf("%.1f", $cache->{$_.':percentWrong'}),
                          sprintf("%.2f", $cache->{$_.':degreeOfDifficulty'}),
                          sprintf("%.1f", $cache->{$_.':standardDeviation'}),
                          sprintf("%.1f", $cache->{$_.':skewness'}),
                          sprintf("%.2f", $cache->{$_.':discriminationFactor1'}),
                          sprintf("%.2f", $cache->{$_.':discriminationFactor2'}),
                          0); # 0 is for discussion, need to figure out
   
 #6666666  #6666666
 #    $r->print('<br>'.$out.'&'.$DoD);  #    $r->print('<br>'.$out.'&'.$DoD);
Line 557  sub BuildStatisticsTable { Line 210  sub BuildStatisticsTable {
 #6666666  #6666666
   
 #check with Gerd  #check with Gerd
     $urlres=~/^(\w+)\/(\w+)/;  #        $urlres=~/^(\w+)\/(\w+)/;
     if ($StdNo) {   #        if ($StdNo) {
  &Apache::lonnet::put('resevaldata',\%storestats,$1,$2);   #            &Apache::lonnet::put('nohist_resevaldata',\%storestats,
     }  #                                 $1,$2);
   #        }
 #-------------------------------- Row of statistical table  #-------------------------------- Row of statistical table
             &TableRow($cache,$join,$cIdx,($p_count-1),$r,$color,          &TableRow($displayFormat,$tableData,$count,$r,$color);
                       \%TempCache);          $count++;
  }      }
  $TempCache{'ProblemCount'}=$p_count;      if($cache->{'DisplayFormat'} ne 'Display CSV Format') {
  &CloseTable($cache,$r);          $r->print('</table>'."\n");
     }      }
 ###    &Close_PrgWin();      $r->print('</td></tr></table>');
 #6666666  #6666666
 #    close( OUT );  #    close( OUT );
 #666666  #666666
     return \%TempCache;      return;
 }  
   
   
 sub CacheStatisticsTable {  
     my ($state,$cache,$headings,$r,$color)=@_;  
     my @list = ();   
     my %TempCache;  
     my %myHeader = reverse( %$headings );  
     my $pos = $myHeader{$state};  
     if ($pos > 0) {$pos++;}  
     my $p_count = $cache->{'ProblemCount'};  
   
     for ( my $k=0; $k<$p_count;$k++) {  
  my $key=$cache->{'CacheTable:'.$k};  
  my @Temp=split(/\&/,$key);  
  $list[$k]=$Temp[$pos].'+'.$key;  
     }  
       
     if ($pos>0) {  
         @list = sort OrderedSort (@list);  
     } else {  
         @list = sort (@list);  
     }  
     my $cIdx=0;  
   
     if ( $pos == 0 ) {  
  foreach my $sequence (split(':', $cache->{'orderedSequences'})) {  
     if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&  
        $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {  
  next;  
     }  
     if ($cIdx==$p_count) {  
  return \%TempCache;  
     }  
     &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              $cache->{$sequence.':source'},  
                                              $cache->{$sequence.':title'},   
                                              $headings,$r);  
   
     my ($tar)=split(/\&/,$list[$cIdx]);  
     $tar=~s/\+//eg;  
     my ($SqOrd)=split(/\@/,$tar);  
     $sequence+=100;  
     while ($SqOrd==$sequence && $cIdx<$p_count) {  
  my($Pre, $Post) = split(/\+/,$list[$cIdx]);   
  &TableRow($cache,$Post,$cIdx,$cIdx,$r,$color,\%TempCache);  
  $cIdx++;  
  my ($tar)=split(/\&/,$list[$cIdx]);  
  $tar=~s/\+//eg;  
  ($SqOrd)=split(/\@/,$tar);  
     }  
     &CloseTable($cache,$r);  
  }  
     }  
     else {  
         &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              'Sorted by: ',  
      $headings->{$pos-1},  
                                              $headings,$r);  
  for ( my $nIndex = 0; $nIndex < $p_count; $nIndex++ ) {  
     my($Pre, $Post) = split(/\+/,$list[$nIndex]);  
     &TableRow($cache,$Post,$nIndex,$nIndex,$r,$color,\%TempCache);  
  }   
  &CloseTable($cache,$r);  
     }  
   
     return \%TempCache;  
 }  }
   
   
 sub TableRow {  sub TableRow {
     my ($cache,$Str,$Idx,$RealIdx,$r,$color,$GraphDat)=@_;      my ($displayFormat,$Str,$RealIdx,$r,$color)=@_;
     my($PrOrd,$Temp,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,      my($ref,$title,$source,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,
        $Wrng,$DoD,$SD,$Sk,$_D1,$_D2,$DiscNo,$Prob)=split(/\&/,$Str);         $Wrng,$DoD,$SD,$Sk,$_D1,$_D2,$DiscNo,$Prob)=split(/\&/,$Str);
     my $Ptr;      my $Ptr;
     if($cache->{'DisplayFormat'} eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
         my ($ResId,$Dummy)=split(/\*/,$Prob);  
         $Ptr="\n".'<br>'.          $Ptr="\n".'<br>'.
              "\n".'"'.($RealIdx+1).'",'.               "\n".'"'.$RealIdx.'",'.
              "\n".'"'.$cache->{$ResId.':title'}.$Dummy.'",'.               "\n".'"'.$title.'",'.
              "\n".'"'.$cache->{$ResId.':source'}.'",'.               "\n".'"'.$source.'",'.
              "\n".'"'.$StdNo.'",'.               "\n".'"'.$StdNo.'",'.
              "\n".'"'.$TotalTries.'",'.               "\n".'"'.$TotalTries.'",'.
              "\n".'"'.$MxTries.'",'.               "\n".'"'.$MxTries.'",'.
Line 671  sub TableRow { Line 256  sub TableRow {
         $r->print("\n".$Ptr);          $r->print("\n".$Ptr);
     } else {      } else {
         $Ptr="\n".'<tr>'.          $Ptr="\n".'<tr>'.
              "\n".'<td>'.($RealIdx+1).'</td>'.               "\n".'<td bgcolor="#ffffe6">'.$RealIdx.'</td>'.
              "\n".'<td>'.$Temp.'</td>'.               "\n".'<td bgcolor="#ffffe6">'.$ref.'</td>'.
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'.               "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'.
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'.               "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'.
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'.               "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'.
Line 688  sub TableRow { Line 273  sub TableRow {
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$DiscNo.'</td>';               "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$DiscNo.'</td>';
         $r->print("\n".$Ptr.'</tr>' );          $r->print("\n".$Ptr.'</tr>' );
     }      }
     $GraphDat->{'GraphGif:'.$RealIdx}=$DoD.':'.$Wrng;  
 }  
   
       return;
   }
   
 # For loading the colored table for display or un-colored for print  # For loading the colored table for display or un-colored for print
 sub setbgcolor {  sub setbgcolor {
Line 714  sub setbgcolor { Line 299  sub setbgcolor {
 }  }
   
 sub ProblemStatisticsButtons {  sub ProblemStatisticsButtons {
     my ($displayFormat)=@_;      my ($displayFormat, $displayLegend)=@_;
   
     my $Ptr = '<tr><td></td><td align="left">';      my $Ptr = '<tr><td></td><td align="left">';
     $Ptr .= '<input type="submit" name="DoDiffGraph" ';      $Ptr .= '<input type="submit" name="DoDiffGraph" ';
Line 722  sub ProblemStatisticsButtons { Line 307  sub ProblemStatisticsButtons {
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '&nbsp;&nbsp;&nbsp;';
     $Ptr .= '<input type="submit" name="PercentWrongGraph" ';      $Ptr .= '<input type="submit" name="PercentWrongGraph" ';
     $Ptr .= 'value="%Wrong Graph" />'."\n";      $Ptr .= 'value="%Wrong Graph" />'."\n";
       $Ptr .= '</td></tr><tr><td></td><td>'."\n";
       $Ptr .= '<input type="submit" name="DisplayLegend" ';
       if($displayLegend eq 'Show Legend') {
           $Ptr .= 'value="Hide Legend" />'."\n";
       } else {
           $Ptr .= 'value="Show Legend" />'."\n";
       }
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '&nbsp;&nbsp;&nbsp;';
     $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';      $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';
     if($displayFormat eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
Line 739  sub ProblemStatisticsLegend { Line 331  sub ProblemStatisticsLegend {
     $Ptr = '<table border="0">';      $Ptr = '<table border="0">';
     $Ptr .= '<tr><td>';      $Ptr .= '<tr><td>';
     $Ptr .= '<b>#Stdnts</b></td>';      $Ptr .= '<b>#Stdnts</b></td>';
     $Ptr .= '<td>Total Number of Students opened the problem.';      $Ptr .= '<td>Total number of students attempted the problem.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Tries</b></td>';      $Ptr .= '<b>Tries</b></td>';
     $Ptr .= '<td>Total Number of Tries for solving the problem.';      $Ptr .= '<td>Total number of tries for solving the problem.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Mod</b></td>';      $Ptr .= '<b>Mod</b></td>';
     $Ptr .= '<td>Maximunm Number of Tries for solving the problem.';      $Ptr .= '<td>Largest number of tries for solving the problem by a student.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Mean</b></td>';      $Ptr .= '<b>Mean</b></td>';
     $Ptr .= '<td>Average Number of the tries. [ Tries / #Stdnts ]';      $Ptr .= '<td>Average number of tries. [ Tries / #Stdnts ]';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>#YES</b></td>';      $Ptr .= '<b>#YES</b></td>';
     $Ptr .= '<td>Number of students solved the problem correctly.';      $Ptr .= '<td>Number of students solved the problem correctly.';
Line 756  sub ProblemStatisticsLegend { Line 348  sub ProblemStatisticsLegend {
     $Ptr .= '<b>#yes</b></td>';      $Ptr .= '<b>#yes</b></td>';
     $Ptr .= '<td>Number of students solved the problem by override.';      $Ptr .= '<td>Number of students solved the problem by override.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>%Wrng</b></td>';      $Ptr .= '<b>%Wrong</b></td>';
     $Ptr .= '<td>Percentage of students tried to solve the problem ';      $Ptr .= '<td>Percentage of students who tried to solve the problem ';
     $Ptr .= 'but still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]';      $Ptr .= 'but is still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>DoDiff</b></td>';      $Ptr .= '<b>DoDiff</b></td>';
     $Ptr .= '<td>Degree of Difficulty of the problem.  ';      $Ptr .= '<td>Degree of Difficulty of the problem.  ';
Line 791  sub ProblemStatisticsLegend { Line 383  sub ProblemStatisticsLegend {
 }  }
   
 #------- Processing upperlist and lowerlist according to each problem  #------- Processing upperlist and lowerlist according to each problem
   
   sub ExtractStudentData {
       my ($cache, $students)=@_;
   
   #$Apache::lonxml::debug=1;
   #&Apache::lonhomework::showhash(%$cache);
   #$Apache::lonxml::debug=0;
   
       my @problemList=();
       my %problemData;
       foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
           foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {
               foreach my $part (split(/\:/,$cache->{$sequence.':'.
                                                     $problemID.
                                                     ':parts'})) {
                   my $id = $sequence.':'.$problemID.':'.$part;
                   push(@problemList, $id);
                   my $totalTries = 0;
                   my $totalAwarded = 0;
                   my $correct = 0;
                   my $correctByOverride = 0;
                   my $studentCount = 0;
                   my $maxTries = 0;
                   my $totalFirst = 0;
                   my @studentTries=();
                   foreach(@$students) {
                       my $code = $cache->{"$_:$problemID:$part:code"};
   
                       if(defined($cache->{$_.':error'}) || $code eq ' ' ||
                          $cache->{"$_:$problemID:NoVersion"} eq 'true') {
                           next;
                       }
   
                       $studentCount++;
                       my $tries =  $cache->{"$_:$problemID:$part:tries"};
                       if($maxTries < $tries) {
                           $maxTries = $tries;
                       }
                       $totalTries += $tries;
                       push(@studentTries, $tries);
   
                       my $awarded = $cache->{"$_:$problemID:$part:awarded"};
                       $totalAwarded += $awarded;
   
                       if($code eq '*') {
                           $correct++;
                           if($tries == 1) {
                               $totalFirst++;
                           }
                       } elsif($code eq '+') {
                           $correctByOverride++;
                       }
                   }
   
                   $problemData{$id.':sequenceTitle'} = 
                       $cache->{$sequence.':title'};
                   $problemData{$id.':studentCount'} = $studentCount;
                   $problemData{$id.':totalTries'} = $totalTries;
                   $problemData{$id.':studentTries'} = \@studentTries;
                   $problemData{$id.':totalAwarded'} = $totalAwarded;
                   $problemData{$id.':correct'} = $correct;
                   $problemData{$id.':correctByOverride'} = $correctByOverride;
                   $problemData{$id.':wrong'} = $studentCount - 
                                                ($correct + $correctByOverride);
                   $problemData{$id.':maxTries'} = $maxTries;
                   $problemData{$id.':totalFirst'} = $totalFirst;
               }
           }
       }
   
       $problemData{'problemList'} = join(':::', @problemList);
   #                $Discussed=0;
   #                if($Discuss->{"$name:$problem"}) {
   #    $TotDiscuss++;
   #                    $Discussed=1;
   #                }
   
       return \%problemData;
   }
   
   sub SortProblems {
       my ($problemData,$sortBy,$ascend)=@_;
   
       my @problems = split(':::', $problemData->{'problemList'});
       if($sortBy eq "Homework Sets Order") {
           return \@problems;
       }
   
       my $data;
   
       if   ($sortBy eq "#Stdnts") { $data = ':studentCount'; }
       elsif($sortBy eq "Tries")   { $data = ':totalTries'; }
       elsif($sortBy eq "Mod")     { $data = ':maxTries'; }
       elsif($sortBy eq "Mean")    { $data = ':mean'; }
       elsif($sortBy eq "#YES")    { $data = ':correct'; }
       elsif($sortBy eq "#yes")    { $data = ':correctByOverride'; }
       elsif($sortBy eq "%Wrng")   { $data = ':percentWrong'; }
       elsif($sortBy eq "DoDiff")  { $data = ':degreeOfDifficulty'; }
       elsif($sortBy eq "S.D.")    { $data = ':standardDeviation'; }
       elsif($sortBy eq "Skew.")   { $data = ':skewness'; }
       elsif($sortBy eq "D.F.1st") { $data = ':discriminantFactor1'; }
       elsif($sortBy eq "D.F.2nd") { $data = ':discriminantFactor2'; }
       elsif($sortBy eq "Disc.")   { $data = ''; }
       else                        { return \@problems; }
   
       my @orderedProblems = 
           sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }
                @problems;
       if($ascend eq 'Descending') {
           @orderedProblems = reverse(@orderedProblems);
       }
   
       return \@orderedProblems;
   }
   
   sub CalculateStatistics {
       my ($data)=@_;
   
       my @problems = split(':::', $data->{'problemList'});
       foreach(@problems) {
           # Mean
           $data->{$_.':mean'} = ($data->{$_.':studentCount'}) ? 
               ($data->{$_.':totalTries'} / $data->{$_.':studentCount'}) : 0;
   
           # %Wrong
           $data->{$_.':percentWrong'} = ($data->{$_.':studentCount'}) ?
               (($data->{$_.':wrong'} / $data->{$_.':studentCount'}) * 100.0) : 
               100.0;
   
           # Degree of Difficulty
           $data->{$_.':degreeOfDifficulty'} = ($data->{$_.':totalTries'}) ?
               (1 - (($data->{$_.':correct'} + $data->{$_.':correctByOverride'}) /
                     $data->{$_.':totalTries'})) : 0;
   
           # Factor in mean
           my $studentTries = $data->{$_.':studentTries'};
           foreach(my $index=0; $index < scalar(@$studentTries); $index++) {
               $studentTries->[$index] -= $data->{$_.':mean'};
           }
           my $sumSquared = 0;
           my $sumCubed = 0;
           foreach(@$studentTries) {
               my $squared = ($_ * $_);
               my $cubed = ($squared * $_);
               $sumSquared += $squared;
               $sumCubed += $cubed;
           }
   
           # Standard deviation
           $data->{$_.':standardDeviation'} = ($data->{$_.':studentCount'} - 1) ?
               ((sqrt($sumSquared)) / ($data->{$_.':studentCount'} - 1)) : 0;
   
           # Skewness
           my $standardDeviation = $data->{$_.':standardDeviation'};
           $data->{$_.':skewness'} = ($data->{$_.':standardDeviation'}) ?
               (((sqrt($sumSquared)) / $data->{$_.':studentCount'}) / 
                ($standardDeviation * $standardDeviation * $standardDeviation)) :
                0;
   
           # Discrimination Factor 1
           $data->{$_.':discriminationFactor1'} = 0;
   
           # Discrimination Factor 2
           $data->{$_.':discriminationFactor2'} = 0;
       }
   
       return;
   }
   
 sub ProcessDiscriminant {  sub ProcessDiscriminant {
     my ($List,$r) = @_;      my ($List) = @_;
     my @sortedList = sort (@$List);      my @sortedList = sort (@$List);
     my $Count = scalar @sortedList;      my $Count = scalar @sortedList;
     my $Problem;      my $Problem;
Line 805  sub ProcessDiscriminant { Line 566  sub ProcessDiscriminant {
     my $nStudent=0;      my $nStudent=0;
     my %Proc=undef;      my %Proc=undef;
     while ($nIndex<$Count) {      while ($nIndex<$Count) {
 #        $r->print("<br> $nIndex) $sortedList[$nIndex]");  #        $jr->print("<br> $nIndex) $sortedList[$nIndex]");
  ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);   ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);
  @Dis=split(/\+/,$tmp);   @Dis=split(/\+/,$tmp);
  my $Temp = $Problem;   my $Temp = $Problem;
Line 818  sub ProcessDiscriminant { Line 579  sub ProcessDiscriminant {
     @Dis=split(/\+/,$tmp);      @Dis=split(/\+/,$tmp);
  } while ( $Problem eq $Temp && $nIndex < $Count );   } while ( $Problem eq $Temp && $nIndex < $Count );
  $Proc{$Temp}=($Sum1/$nStudent).':'.($Sum2/$nStudent);   $Proc{$Temp}=($Sum1/$nStudent).':'.($Sum2/$nStudent);
 #        $r->print("<br> $nIndex) $Temp --> ($nStudent) $Proc{$Temp}");  #        $jr->print("<br> $nIndex) $Temp --> ($nStudent) $Proc{$Temp}");
  $Sum1=0;   $Sum1=0;
  $Sum2=0;   $Sum2=0;
  $nStudent=0;   $nStudent=0;
Line 829  sub ProcessDiscriminant { Line 590  sub ProcessDiscriminant {
   
 #------- Creating Discimination factor     #------- Creating Discimination factor   
 sub Discriminant {  sub Discriminant {
     my ($discriminant,$r)=@_;      my ($discriminant)=@_;
     my @discriminantKeys=keys(%$discriminant);      my @discriminantKeys=keys(%$discriminant);
     my $Count = scalar @discriminantKeys;      my $Count = scalar @discriminantKeys;
   
Line 853  sub Discriminant { Line 614  sub Discriminant {
             }              }
         }          }
     }      }
     my %DisUp =  &ProcessDiscriminant(\@UpList,$r);      my %DisUp =  &ProcessDiscriminant(\@UpList);
     my %DisLow = &ProcessDiscriminant(\@LowList,$r);      my %DisLow = &ProcessDiscriminant(\@LowList);
   
     return (\%DisUp, \%DisLow);      return (\%DisUp, \%DisLow);
 }     }   
Line 873  sub BuildGraphicChart { Line 634  sub BuildGraphicChart {
     my $count = 0;      my $count = 0;
     my $Max = 0;      my $Max = 0;
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
         return '<html><body>Unable to tie database.</body></html>';          return '<html><body>Unable to tie database.</body></html>';
     }      }
         

Removed from v.1.16  
changed lines
  Added in v.1.21


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>