Diff for /loncom/interface/statistics/lonproblemstatistics.pm between versions 1.22 and 1.39

version 1.22, 2002/08/13 15:01:07 version 1.39, 2002/12/13 21:39:19
Line 30 Line 30
 # 5/5,7/9,7/25/1,8/11,9/13,9/26,10/5,10/9,10/22,10/26 Behrouz Minaei  # 5/5,7/9,7/25/1,8/11,9/13,9/26,10/5,10/9,10/22,10/26 Behrouz Minaei
 # 11/1,11/4,11/16,12/14,12/16,12/18,12/20,12/31 Behrouz Minaei  # 11/1,11/4,11/16,12/14,12/16,12/18,12/20,12/31 Behrouz Minaei
 # YEAR=2002  # YEAR=2002
 # 1/22,2/1,2/6,2/25,3/2,3/6,3/17,3/21,3/22,3/26,4/7,5/6 Behrouz Minaei  # 1/22,2/1,2/6,2/25,3/2,3/26,4/7,5/6 Behrouz Minaei
 # 5/12,5/14,5/15,5/19,5/26,7/16,7/25,7/29,8/5  Behrouz Minaei  # 5/12,5/26,7/16,7/29,8/5,10/31  Behrouz Minaei
 #  #
 ###  ###
   
 package Apache::lonproblemstatistics;   package Apache::lonproblemstatistics;
   
 use strict;  use strict;
 use Apache::lonnet();  use Apache::lonnet();
Line 43  use Apache::lonhtmlcommon; Line 43  use Apache::lonhtmlcommon;
 use Apache::loncoursedata;  use Apache::loncoursedata;
 use GDBM_File;  use GDBM_File;
   
 my $jr;  
   
 sub BuildProblemStatisticsPage {  sub InitializeProblemStatistics {
     my ($cacheDB, $students, $courseID, $c, $r)=@_;      my ($cacheDB, $students, $courseID, $c, $r)=@_;
     my %cache;      my %cache;
   
     $jr = $r;      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           $r->print('Unable to tie database1.');
           return ('ERROR', undef);
       }
   
       # Remove students who don't have the proper section.
       my @sectionsSelected = split(':',$cache{'sectionsSelected'});
       for(my $studentIndex=((scalar @$students)-1); $studentIndex>=0;
           $studentIndex--) {
           my $value = $cache{$students->[$studentIndex].':section'};
           my $found = 0;
           foreach (@sectionsSelected) {
               if($_ eq 'none') {
                   if($value eq '' || !defined($value) || $value eq ' ') {
                       $found = 1;
                       last;
                   }
               } else {
                   if($value eq $_) {
                       $found = 1;
                       last;
                   }
               }
           }
           if($found == 0) {
               splice(@$students, $studentIndex, 1);
           }
       }
   
       my $isNotCached = 0;
       my $lastStatus = (defined($cache{'StatisticsLastStatus'})) ?
                        $cache{'StatisticsLastStatus'} : 'Nothing';
       my $whichStudents = join(':::',sort(@$students));
       if(!defined($cache{'StatisticsCached'}) ||
          $lastStatus ne $cache{'Status'} ||
          $whichStudents ne $cache{'StatisticsWhichStudents'}) {
           $isNotCached = 1;
       }
   
       untie(%cache);
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {
           $r->print('Unable to tie database.2');
           return ('ERROR', undef);
       }
       if($isNotCached && defined($cache{'StatisticsCached'})) {
           my @statkeys = split(':::', $cache{'StatisticsKeys'});
           delete $cache{'StatisticsKeys'};
           delete $cache{'StatisticsCached'};
           foreach(@statkeys) {
               delete $cache{$_};
           }
       }
   
       untie(%cache);
       if($isNotCached) {
           &Apache::loncoursedata::DownloadStudentCourseDataSeparate($students,
                                                                     'true',
                                                                     $cacheDB,
                                                                     'true',
                                                                     'true',
                                                                     $courseID,
                                                                     $r, $c);
       }
       if($c->aborted()) { return ('ERROR', undef); }
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
         $r->print('Unable to tie database.');          $r->print('Unable to tie database.3');
         return;          return ('ERROR', undef);
       }
       my $problemData;
       if($isNotCached) {
           ($problemData) = &ExtractStudentData(\%cache, $students);
           &CalculateStatistics($problemData, \%cache, $courseID);
     }      }
       untie(%cache);
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {
           $r->print('Unable to tie database.4');
           return ('ERROR', undef);
       }
       if($isNotCached) {
           foreach(keys(%$problemData)) {
               $cache{$_} = $problemData->{$_};
           }
           $cache{'StatisticsKeys'} = join(':::', keys(%$problemData));
           $cache{'StatisticsCached'} = 'true';
           $cache{'StatisticsLastStatus'} = $cache{'Status'};
           $cache{'StatisticsWhichStudents'} = $whichStudents;
       }
       untie(%cache);
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           $r->print('Unable to tie database.5');
           return ('ERROR', undef);
       }
   
       my $orderedProblems = &SortProblems(\%cache,
                                           $cache{'ProblemStatisticsSort'},
                                           $cache{'SortProblems'},
                                           $cache{'ProblemStatisticsAscend'});
       untie(%cache);
   
       return ('OK', $orderedProblems);
   }
   
   sub BuildProblemStatisticsPage {
       my ($cacheDB, $students, $courseID, $c, $r)=@_;
   
       my @Header = ("Homework Sets Order","#Stdnts","Tries","Mod",
                     "Mean","#YES","#yes","%Wrng","DoDiff",
                     "S.D.","Skew.","D.F.1st","D.F.2nd");
       my $color=&setbgcolor(0);
       my %cache;
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           $r->print('Unable to tie database.6');
           return;
       }
     my $Ptr = '';      my $Ptr = '';
     $Ptr .= '<table border="0"><tbody>';      $Ptr .= '<table border="0" cellspacing="5"><tbody>';
     $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";      $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";
     $Ptr .= '<td align="left">';      $Ptr .= '<td align="left">';
     $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'ProblemStatistics',      $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'Statistics',
                                                'Statistics');                                                 'Statistics');
     $Ptr .= '</td></tr>'."\n";      $Ptr .= '</td></tr>'."\n";
     $Ptr .= '<tr><td align="right"><b>Sorting Type:</b></td>'."\n";      $Ptr .= '<tr><td align="right"><b>Sorting Type:</b></td>'."\n";
     $Ptr .= '<td align="left">'."\n";      $Ptr .= '<td align="left">'."\n";
     $Ptr .= &Apache::lonhtmlcommon::AscendOrderOptions(      $Ptr .= &Apache::lonhtmlcommon::AscendOrderOptions(
                                             $cache{'ProblemStatisticsAscend'},                                              $cache{'ProblemStatisticsAscend'},
                                             'ProblemStatistics',                                             'ProblemStatistics',
                                             'Statistics');                                             'Statistics');
     $Ptr .= '</td></tr>'."\n";      $Ptr .= '</td></tr>'."\n";
     $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'},       $Ptr .= '<tr><td align="right"><b>Select Sections</b>';
                                       $cache{'DisplayLegend'});      $Ptr .= '</td>'."\n";
       $Ptr .= '<td align="left">'."\n";
       my @sections = split(':',$cache{'sectionList'});
       my @sectionsSelected = split(':',$cache{'sectionsSelected'});
       $Ptr .= &Apache::lonhtmlcommon::MultipleSectionSelect(\@sections,
                                                             \@sectionsSelected,
                                                             'Statistics');
       $Ptr .= '</td></tr>'."\n";
       $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'},
                                         $cache{'DisplayLegend'},
                                         $cache{'SortProblems'});
     $Ptr .= '</table>';      $Ptr .= '</table>';
     if($cache{'DisplayLegend'} eq 'Show Legend') {      if($cache{'DisplayLegend'} eq 'Show Legend') {
         $Ptr .= &ProblemStatisticsLegend();          $Ptr .= &ProblemStatisticsLegend();
     }      }
     $r->print($Ptr);      $r->print($Ptr);
     $r->rflush();      $r->rflush();
       untie(%cache);
   
     my @Header = ("Homework Sets Order","#Stdnts","Tries","Mod",      my ($result, $orderedProblems) =
                   "Mean","#YES","#yes","%Wrng","DoDiff",          &InitializeProblemStatistics($cacheDB, $students, $courseID, $c, $r);
                   "S.D.","Skew.","D.F.1st","D.F.2nd","Disc.");      if($result ne 'OK') {
     my $color=&setbgcolor(0);          return;
       }
   
 #    my %Discuss=&Apache::loncoursedata::LoadDiscussion($courseID);      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
 #    my ($upper, $lower) = &Discriminant(\%discriminant,$r);          $r->print('Unable to tie database.6');
     if(!defined($cache{'StatisticsCached'})) {          return;
         untie(%cache);      }
         &Apache::loncoursedata::DownloadStudentCourseDataSeparate($students,      &BuildStatisticsTable(\%cache, $cache{'DisplayFormat'},
                                                                   'true',                            $cache{'SortProblems'}, $orderedProblems,
                                                                   $cacheDB,                            \@Header, $r, $color);
                                                                   'true',       untie(%cache);
                                                                   'true',  
                                                                   $courseID,  
                                                                   $r, $c);  
         if($c->aborted()) { return; }  
   
         unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {      return;
             $r->print('Unable to tie database.');  }
             return;  
         }  sub BuildGraphicChart {
         my ($problemData) = &ExtractStudentData(\%cache, $students);      my ($graph,$cacheDB,$courseDescription,$students,$courseID,$r,$c)=@_;
         &CalculateStatistics($problemData);      my %cache;
         untie(%cache);      my $max;
   
         unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {      my $title = '';
             $r->print('Unable to tie database.');      if($graph eq 'DoDiffGraph') {
             return;   $title = 'Degree-of-Difficulty';
         }      } else {
         foreach(keys(%$problemData)) {   $title = 'Wrong-Percentage';
             $cache{$_} = $problemData->{$_};      }
   
       my $currentSequence = -1;
       my $sortProblems = 'Sort Within Sequence';
   
       my ($result, $orderedProblems) =
           &InitializeProblemStatistics($cacheDB, $students, $courseID, $c, $r);
       if($result ne 'OK') {
           return;
       }
   
       my @values = ();
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           return 'Unable to tie database.7';
       }
   
       foreach(@$orderedProblems) {
           my ($sequence,$problem,$part)=split(':', $_);
           if($cache{'StatisticsMaps'} ne 'All Maps'  &&
              $cache{'StatisticsMaps'} ne $cache{$sequence.':title'}) {
                next;
         }          }
         $cache{'StatisticsCached'} = 'true';  
         untie(%cache);  
   
         unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {          if( $currentSequence == -1 ||
             $r->print('Unable to tie database.');              ($sortProblems eq 'Sort Within Sequence' &&
             return;              $currentSequence != $sequence)) {
       if($currentSequence != -1) {
    &DrawGraph(\@values,$courseDescription,$title,$max,$r);
       }
               if($sortProblems eq 'Sort Within Sequence') {
                   $r->print('<br><b>'.$cache{$sequence.':title'}.'</b>'."\n");
               }
   
               $currentSequence = $sequence;
               @values = ();
       $max=0;
           }
           my $data = 0;
           if($graph eq 'DoDiffGraph') {
               $data = sprintf("%.2f", $cache{$_.':degreeOfDifficulty'}),
           } else {
               $data = sprintf("%.1f", $cache{$_.':percentWrong'}),
           }
           if($max < $data) {
               $max = $data;
         }          }
           push(@values, $data);
     }      }
     my $orderedProblems = &SortProblems(\%cache,   
                                         $cache{'ProblemStatisticsSort'},  
                                         $cache{'ProblemStatisticsAscend'});  
     &BuildStatisticsTable(\%cache, $cache{'DisplayFormat'}, $orderedProblems,   
                           \@Header, $r, $color);  
     untie(%cache);      untie(%cache);
   
       &DrawGraph(\@values,$courseDescription,$title,$max,$r);
   
     return;      return;
 }  }
   
   
   sub DrawGraph {
       my ($values,$courseDescription,$title,$Max,$r)=@_;
       my $sendValues = join(',', @$values);
       my $sendCount = scalar(@$values);
       $r->print("<br>The Maximum Value is: $Max");
       if ( $Max > 1 ) {
    if ($Max % 10) {
               if ( int($Max) < $Max ) {
        $Max++;
    $Max = int($Max);
       }
    }
       #(10 - $Max % 10);
       } else { $Max = 1; }
   
       my @GData = ('','Problem_number',$title,$Max,$sendCount,$sendValues);
   
   #    $r->print('</form>'."\n");
       $r->print('<br>'."\n");
       $r->print('<IMG src="/cgi-bin/graph.png?'.
                 (join('&', @GData)).'" border="1" />');
   #    $r->print('<form>'."\n");
       $r->print('<br>'."\n");
   }
   
 #---- Problem Statistics Web Page ---------------------------------------  #---- Problem Statistics Web Page ---------------------------------------
   
 sub CreateProblemStatisticsTableHeading {  sub CreateProblemStatisticsTableHeading {
Line 140  sub CreateProblemStatisticsTableHeading Line 319  sub CreateProblemStatisticsTableHeading
     $Str .= '<tr>'."\n";      $Str .= '<tr>'."\n";
     $Str .= '<th bgcolor="#ffffe6">P#</th>'."\n";      $Str .= '<th bgcolor="#ffffe6">P#</th>'."\n";
     foreach(@$headings) {      foreach(@$headings) {
  $Str .= '<th bgcolor="#ffffe6">'.'<a href="/adm/statistics?reportSelected=';   $Str .= '<th bgcolor="#ffffe6">';
           $Str .= '<a href="/adm/statistics?reportSelected=';
         $Str .= &Apache::lonnet::escape('Problem Statistics');          $Str .= &Apache::lonnet::escape('Problem Statistics');
         $Str .= '&ProblemStatisticsSort=';          $Str .= '&ProblemStatisticsSort=';
         $Str .= &Apache::lonnet::escape($_).'">'.$_.'</a>&nbsp</th>'."\n";          $Str .= &Apache::lonnet::escape($_).'">'.$_.'</a>&nbsp</th>'."\n";
     }      }
     $Str .= "\n".'</tr>'."\n";          $Str .= "\n".'</tr>'."\n";
   
     return $Str;      return $Str;
 }  }
   
 sub BuildStatisticsTable {  sub BuildStatisticsTable {
     my ($cache,$displayFormat,$orderedProblems,$headings,$r,$color)=@_;      my ($cache,$displayFormat,$sortProblems,$orderedProblems,$headings,
           $r,$color)=@_;
 #6666666  
 #    my $file="/home/httpd/perl/tmp/183d.txt";  
 #    open(OUT, ">$file");  
 #6666666  
 ##     &Apache::lonstatistics::Create_PrgWin($r);  
 ##777777  
 ##    my (%Activity) = &LoadActivityLog();  
 ##    $r->print('<script>popwin.document.popremain.remaining.value="'.  
 ##              'Loading Discussion...";</script>');  
 ##    my ($doDiffFile) = &LoadDoDiffFile();  
   
 ##777777  
 ##    $Str .= &Classify($discriminantFactor, $students);  
   
      if($displayFormat ne 'Display CSV Format') {  
         $r->print('<table border="0"><tr><td bgcolor="#777777">'."\n");  
         $r->print('<table border="0" cellpadding="3">'."\n");  
         $r->print(&CreateProblemStatisticsTableHeading($headings, $r));  
     } else {  
         $r->print('<br>');  
     }  
   
     my $count = 1;      my $count = 1;
       my $currentSequence = -1;
     foreach(@$orderedProblems) {      foreach(@$orderedProblems) {
         my ($sequence,$problem,$part)=split(':', $_);          my ($sequence,$problem,$part)=split(':', $_);
 #        if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&          if($cache->{'StatisticsMaps'} ne 'All Maps'  &&
 #           $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {             $cache->{'StatisticsMaps'} ne $cache->{$sequence.':title'}) {
 #            next;              next;
 #        }          }
   
           if($currentSequence == -1 ||
              ($sortProblems eq 'Sort Within Sequence' &&
               $currentSequence != $sequence)) {
               if($displayFormat ne 'Display CSV Format') {
                   if($currentSequence ne -1) {
                       $r->print('</table>');
                       $r->print('</td></tr></table><br>');
                   }
                   if($sortProblems eq 'Sort Within Sequence') {
                       $r->print('<b>'.$cache->{$sequence.':title'}.'</b>');
                   }
                   $r->print('<table border="0"><tr><td bgcolor="#777777">'."\n");
                   $r->print('<table border="0" cellpadding="3">'."\n");
                   $r->print(&CreateProblemStatisticsTableHeading($headings, $r));
               } else {
                   if($sortProblems eq 'Sort Within Sequence') {
                       $r->print('"'.$cache->{$sequence.':title'}.'"');
                   }
                   $r->print('<br>');
               }
               $currentSequence = $sequence;
           }
   
         my $ref = '<a href="'.$cache->{$problem.':source'}.          my $ref = '<a href="'.$cache->{$problem.':source'}.
                   '" target="_blank">'.$cache->{$problem.':title'}.'</a>';                    '" target="_blank">'.$cache->{$problem.':title'}.'</a>';
 #        my $ref = $cache->{$problem.':title'};  
         my $title = $cache->{$problem.':title'};          my $title = $cache->{$problem.':title'};
         my $source = 'source';          if($part != 0) {
               $title .= ' Part '.$part;
           }
           my $source = $cache->{$problem.':source'};
         my $tableData = join('&', $ref, $title, $source,          my $tableData = join('&', $ref, $title, $source,
                        $cache->{$_.':studentCount'},                         $cache->{$_.':studentCount'},
                        $cache->{$_.':totalTries'},                         $cache->{$_.':totalTries'},
                        $cache->{$_.':maxTries'},                         $cache->{$_.':maxTries'},
                        sprintf("%.2f", $cache->{$_.':mean'}),                         $cache->{$_.':mean'},
                        $cache->{$_.':correct'},                         $cache->{$_.':correct'},
                        $cache->{$_.':correctByOverride'},                         $cache->{$_.':correctByOverride'},
                        sprintf("%.1f", $cache->{$_.':percentWrong'}),                         $cache->{$_.':percentWrong'},
                        sprintf("%.2f", $cache->{$_.':degreeOfDifficulty'}),                         $cache->{$_.':degreeOfDifficulty'},
                        sprintf("%.1f", $cache->{$_.':standardDeviation'}),                         $cache->{$_.':standardDeviation'},
                        sprintf("%.1f", $cache->{$_.':skewness'}),                         $cache->{$_.':skewness'},
                        sprintf("%.2f", $cache->{$_.':discriminationFactor1'}),                         $cache->{$_.':discriminationFactor1'},
                        sprintf("%.2f", $cache->{$_.':discriminationFactor2'}),                         $cache->{$_.':discriminationFactor2'});
                        0); # 0 is for discussion, need to figure out  
   
 #6666666  
 #    $r->print('<br>'.$out.'&'.$DoD);  
 #            print (OUT $out.'@'.$DoD.'&');  
 #6666666  
   
 #check with Gerd  
 #        $urlres=~/^(\w+)\/(\w+)/;  
 #        if ($StdNo) {  
 #            &Apache::lonnet::put('nohist_resevaldata',\%storestats,  
 #                                 $1,$2);  
 #        }  
 #-------------------------------- Row of statistical table  
         &TableRow($displayFormat,$tableData,$count,$r,$color);          &TableRow($displayFormat,$tableData,$count,$r,$color);
   
         $count++;          $count++;
     }      }
     if($cache->{'DisplayFormat'} ne 'Display CSV Format') {      if($displayFormat ne 'Display CSV Format') {
         $r->print('</table>'."\n");          $r->print('</table>'."\n");
           $r->print('</td></tr></table>');
       } else {
           $r->print('<br>');
     }      }
     $r->print('</td></tr></table>');  
 #6666666  
 #    close( OUT );  
 #666666  
     return;      return;
 }  }
   
 sub TableRow {  sub TableRow {
     my ($displayFormat,$Str,$RealIdx,$r,$color)=@_;      my ($displayFormat,$Str,$RealIdx,$r,$color)=@_;
     my($ref,$title,$source,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,      my($ref,$title,$source,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,
        $Wrng,$DoD,$SD,$Sk,$_D1,$_D2,$DiscNo,$Prob)=split(/\&/,$Str);         $Wrng,$DoD,$SD,$Sk,$_D1,$_D2)=split(/\&/,$Str);
     my $Ptr;      my $Ptr;
     if($displayFormat eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
         $Ptr="\n".'<br>'.          $Ptr='"'.$RealIdx.'",'."\n".
              "\n".'"'.$RealIdx.'",'.               '"'.$title.'",'."\n".
              "\n".'"'.$title.'",'.               '"'.$source.'",'."\n".
              "\n".'"'.$source.'",'.               '"'.$StdNo.'",'."\n".
              "\n".'"'.$StdNo.'",'.               '"'.$TotalTries.'",'."\n".
              "\n".'"'.$TotalTries.'",'.               '"'.$MxTries.'",'."\n".
              "\n".'"'.$MxTries.'",'.               '"'.$Avg.'",'."\n".
              "\n".'"'.$Avg.'",'.               '"'.$YES.'",'."\n".
              "\n".'"'.$YES.'",'.               '"'.$Override.'",'."\n".
              "\n".'"'.$Override.'",'.               '"'.$Wrng.'",'."\n".
              "\n".'"'.$Wrng.'",'.               '"'.$DoD.'",'."\n".
              "\n".'"'.$DoD.'",'.               '"'.$SD.'",'."\n".
              "\n".'"'.$SD.'",'.               '"'.$Sk.'",'."\n".
              "\n".'"'.$Sk.'",'.               '"'.$_D1.'",'."\n".
              "\n".'"'.$_D1.'",'.               '"'.$_D2.'"'."\n".
      "\n".'"'.$_D2.'"'.               "<br>\n";
      "\n".'"'.$DiscNo.'"';  
   
         $r->print("\n".$Ptr);          $r->print("\n".$Ptr);
     } else {      } else {
         $Ptr="\n".'<tr>'.          $Ptr='<tr>'."\n".
              "\n".'<td bgcolor="#ffffe6">'.$RealIdx.'</td>'.               '<td bgcolor="#ffffe6">'.$RealIdx.'</td>'."\n".
              "\n".'<td bgcolor="#ffffe6">'.$ref.'</td>'.               '<td bgcolor="#ffffe6">'.$ref.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'>'.$Avg.'</td>'.               '<td bgcolor='.$color->{"gb"}.'>'.$Avg.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'> '.$YES.'</td>'.               '<td bgcolor='.$color->{"gb"}.'> '.$YES.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'> '.$Override.'</td>'.               '<td bgcolor='.$color->{"gb"}.'> '.$Override.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"red"}.'> '.$Wrng.'</td>'.               '<td bgcolor='.$color->{"red"}.'> '.$Wrng.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"red"}.'> '.$DoD.'</td>'.               '<td bgcolor='.$color->{"red"}.'> '.$DoD.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"green"}.'> '.$SD.'</td>'.               '<td bgcolor='.$color->{"green"}.'> '.$SD.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"green"}.'> '.$Sk.'</td>'.               '<td bgcolor='.$color->{"green"}.'> '.$Sk.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"purple"}.'> '.$_D1.'</td>'.               '<td bgcolor='.$color->{"purple"}.'> '.$_D1.'</td>'."\n".
      "\n".'<td bgcolor='.$color->{"purple"}.'> '.$_D2.'</td>'.       '<td bgcolor='.$color->{"purple"}.'> '.$_D2.'</td>'."\n";
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$DiscNo.'</td>';          $r->print($Ptr.'</tr>'."\n");
         $r->print("\n".$Ptr.'</tr>' );  
     }      }
   
     return;      return;
Line 299  sub setbgcolor { Line 469  sub setbgcolor {
 }  }
   
 sub ProblemStatisticsButtons {  sub ProblemStatisticsButtons {
     my ($displayFormat, $displayLegend)=@_;      my ($displayFormat, $displayLegend, $sortProblems)=@_;
   
     my $Ptr = '<tr><td></td><td align="left">';      my $Ptr = '<tr><td></td><td align="left">';
     $Ptr .= '<input type="submit" name="DoDiffGraph" ';      $Ptr .= '<input type="submit" name="DoDiffGraph" ';
     $Ptr .= 'value="DoDiff Graph" />'."\n";      $Ptr .= 'value="Plot Degree of Difficulty" />'."\n";
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '</td><td align="left">';
     $Ptr .= '<input type="submit" name="PercentWrongGraph" ';      $Ptr .= '<input type="submit" name="PercentWrongGraph" ';
     $Ptr .= 'value="%Wrong Graph" />'."\n";      $Ptr .= 'value="Plot Percent Wrong" />'."\n";
     $Ptr .= '</td></tr><tr><td></td><td>'."\n";      $Ptr .= '</td></tr><tr><td></td><td>'."\n";
       $Ptr .= '<input type="submit" name="SortProblems" ';
       if($sortProblems eq 'Sort All Problems') {
           $Ptr .= 'value="Sort Within Sequence" />'."\n";
       } else {
           $Ptr .= 'value="Sort All Problems" />'."\n";
       }
       $Ptr .= '</td><td align="left">';
     $Ptr .= '<input type="submit" name="DisplayLegend" ';      $Ptr .= '<input type="submit" name="DisplayLegend" ';
     if($displayLegend eq 'Show Legend') {      if($displayLegend eq 'Show Legend') {
         $Ptr .= 'value="Hide Legend" />'."\n";          $Ptr .= 'value="Hide Legend" />'."\n";
     } else {      } else {
         $Ptr .= 'value="Show Legend" />'."\n";          $Ptr .= 'value="Show Legend" />'."\n";
     }      }
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '</td><td align="left">';
     $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';      $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';
     if($displayFormat eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
         $Ptr .= 'value="Display Table Format" />'."\n";          $Ptr .= 'value="Display Table Format" />'."\n";
Line 368  sub ProblemStatisticsLegend { Line 545  sub ProblemStatisticsLegend {
     $Ptr .= '<b>Dis.F.</b></td>';      $Ptr .= '<b>Dis.F.</b></td>';
     $Ptr .= '<td>Discrimination Factor: A Standard for evaluating the ';      $Ptr .= '<td>Discrimination Factor: A Standard for evaluating the ';
     $Ptr .= 'problem according to a Criterion<br>';      $Ptr .= 'problem according to a Criterion<br>';
     $Ptr .= '<b>[Applied Criterion in %27 Upper Students - ';      $Ptr .= '<b>[Criterion to group students into %27 Upper Students - ';
     $Ptr .= 'Applied the same Criterion in %27 Lower Students]</b><br>';      $Ptr .= 'and %27 Lower Students]</b><br>';
     $Ptr .= '<b>1st Criterion</b> for Sorting the Students: ';      $Ptr .= '<b>1st Criterion</b> for Sorting the Students: ';
     $Ptr .= '<b>Sum of Partial Credit Awarded / Total Number of Tries</b><br>';      $Ptr .= '<b>Sum of Partial Credit Awarded / Total Number of Tries</b><br>';
     $Ptr .= '<b>2nd Criterion</b> for Sorting the Students: ';      $Ptr .= '<b>2nd Criterion</b> for Sorting the Students: ';
Line 382  sub ProblemStatisticsLegend { Line 559  sub ProblemStatisticsLegend {
     return $Ptr;      return $Ptr;
 }  }
   
 #------- Processing upperlist and lowerlist according to each problem  
   
 sub ExtractStudentData {  sub ExtractStudentData {
     my ($cache, $students)=@_;      my ($cache, $students)=@_;
   
 #$Apache::lonxml::debug=1;  
 #&Apache::lonhomework::showhash(%$cache);  
 #$Apache::lonxml::debug=0;  
   
     my @problemList=();      my @problemList=();
     my %problemData;      my %problemData;
     foreach my $sequence (split(':', $cache->{'orderedSequences'})) {      foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
Line 437  sub ExtractStudentData { Line 608  sub ExtractStudentData {
                     }                      }
                 }                  }
   
                 $problemData{$id.':sequenceTitle'} =                   my $studentTriesJoined = join(':::', @studentTries);
                   $problemData{$id.':sequenceTitle'} =
                     $cache->{$sequence.':title'};                      $cache->{$sequence.':title'};
                 $problemData{$id.':studentCount'} = $studentCount;                  $problemData{$id.':studentCount'} = $studentCount;
                 $problemData{$id.':totalTries'} = $totalTries;                  $problemData{$id.':totalTries'} = $totalTries;
                 $problemData{$id.':studentTries'} = \@studentTries;                  $problemData{$id.':studentTries'} = $studentTriesJoined;
                 $problemData{$id.':totalAwarded'} = $totalAwarded;                  $problemData{$id.':totalAwarded'} = $totalAwarded;
                 $problemData{$id.':correct'} = $correct;                  $problemData{$id.':correct'} = $correct;
                 $problemData{$id.':correctByOverride'} = $correctByOverride;                  $problemData{$id.':correctByOverride'} = $correctByOverride;
Line 453  sub ExtractStudentData { Line 625  sub ExtractStudentData {
         }          }
     }      }
   
       my @upperStudents1=();
       my @lowerStudents1=();
       my @upperStudents2=();
       my @lowerStudents2=();
       my $upperCount = int(0.27*scalar(@$students));
       # Discriminant Factor criterion 1
       my $sortedStudents = &SortDivideByTries($students,$cache,':totalAwarded');
   
       for(my $i=0; $i<$upperCount; $i++) {
           push(@lowerStudents1, $sortedStudents->[$i]);
           push(@upperStudents1, $sortedStudents->[(scalar(@$students)-$i-1)]);
       }
   
       $problemData{'studentsUpperListCriterion1'}=join(':::', @upperStudents1);
       $problemData{'studentsLowerListCriterion1'}=join(':::', @lowerStudents1);
   
       # Discriminant Factor criterion 2
       $sortedStudents = &SortDivideByTries($students, $cache, ':totalSolved');
   
       for(my $i=0; $i<$upperCount; $i++) {
           push(@lowerStudents2, $sortedStudents->[$i]);
           push(@upperStudents2, $sortedStudents->[(scalar(@$students)-$i-1)]);
       }
       $problemData{'studentsUpperListCriterion2'}=join(':::', @upperStudents2);
       $problemData{'studentsLowerListCriterion2'}=join(':::', @lowerStudents2);
   
     $problemData{'problemList'} = join(':::', @problemList);      $problemData{'problemList'} = join(':::', @problemList);
 #                $Discussed=0;  
 #                if($Discuss->{"$name:$problem"}) {  
 #    $TotDiscuss++;  
 #                    $Discussed=1;  
 #                }  
   
     return \%problemData;      return \%problemData;
 }  }
   
   sub SortDivideByTries {
       my ($toSort, $data, $sortOn)=@_;
       my @orderedData = sort { ($data->{$a.':totalTries'}) ?
                                ($data->{$a.$sortOn}/$data->{$a.':totalTries'}):0
                                <=>
                                ($data->{$b.':totalTries'}) ?
                                ($data->{$b.$sortOn}/$data->{$b.':totalTries'}):0
                              } @$toSort;
   
       return \@orderedData;
   }
   
 sub SortProblems {  sub SortProblems {
     my ($problemData,$sortBy,$ascend)=@_;      my ($problemData,$sortBy,$sortProblems,$ascend)=@_;
   
     my @problems = split(':::', $problemData->{'problemList'});      my @problems = split(':::', $problemData->{'problemList'});
     if($sortBy eq "Homework Sets Order") {      if($sortBy eq "Homework Sets Order") {
Line 483  sub SortProblems { Line 688  sub SortProblems {
     elsif($sortBy eq "DoDiff")  { $data = ':degreeOfDifficulty'; }      elsif($sortBy eq "DoDiff")  { $data = ':degreeOfDifficulty'; }
     elsif($sortBy eq "S.D.")    { $data = ':standardDeviation'; }      elsif($sortBy eq "S.D.")    { $data = ':standardDeviation'; }
     elsif($sortBy eq "Skew.")   { $data = ':skewness'; }      elsif($sortBy eq "Skew.")   { $data = ':skewness'; }
     elsif($sortBy eq "D.F.1st") { $data = ':discriminantFactor1'; }      elsif($sortBy eq "D.F.1st") { $data = ':discriminationFactor1'; }
     elsif($sortBy eq "D.F.2nd") { $data = ':discriminantFactor2'; }      elsif($sortBy eq "D.F.2nd") { $data = ':discriminationFactor2'; }
     elsif($sortBy eq "Disc.")   { $data = ''; }  
     else                        { return \@problems; }      else                        { return \@problems; }
   
     my @orderedProblems =       my %temp;
         sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }      my @sequenceList=();
              @problems;      foreach(@problems) {
           my ($sequence) = split(':', $_);
   
           my @array=();
           my $tempArray;
           if(defined($temp{$sequence})) {
               $tempArray = $temp{$sequence};
           } else {
               push(@sequenceList, $sequence);
               $tempArray = \@array;
               $temp{$sequence} = $tempArray;
           }
   
           push(@$tempArray, $_);
       }
   
       my @orderedProblems;
       if($sortProblems eq "Sort Within Sequence") {
           foreach(keys(%temp)) {
               my $tempArray = $temp{$_};
               my @tempOrder =
                   sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }
               @$tempArray;
               $temp{$_} = \@tempOrder;
           }
           foreach(@sequenceList) {
               my $tempArray = $temp{$_};
               @orderedProblems = (@orderedProblems, @$tempArray);
           }
       } else {
           @orderedProblems = 
               sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }
           @problems;
       }
   
     if($ascend eq 'Descending') {      if($ascend eq 'Descending') {
         @orderedProblems = reverse(@orderedProblems);          @orderedProblems = reverse(@orderedProblems);
     }      }
Line 499  sub SortProblems { Line 737  sub SortProblems {
 }  }
   
 sub CalculateStatistics {  sub CalculateStatistics {
     my ($data)=@_;      my ($data, $cache, $courseID)=@_;
   
     my @problems = split(':::', $data->{'problemList'});      my @problems = split(':::', $data->{'problemList'});
     foreach(@problems) {      foreach(@problems) {
         # Mean          # Mean
         $data->{$_.':mean'} = ($data->{$_.':studentCount'}) ?           my $mean = ($data->{$_.':studentCount'}) ? 
             ($data->{$_.':totalTries'} / $data->{$_.':studentCount'}) : 0;              ($data->{$_.':totalTries'} / $data->{$_.':studentCount'}) : 0;
           $data->{$_.':mean'} = sprintf("%.2f", $mean);
   
         # %Wrong          # %Wrong
         $data->{$_.':percentWrong'} = ($data->{$_.':studentCount'}) ?          my $pw = ($data->{$_.':studentCount'}) ?
             (($data->{$_.':wrong'} / $data->{$_.':studentCount'}) * 100.0) :               (($data->{$_.':wrong'} / $data->{$_.':studentCount'}) * 100.0) : 
             100.0;              100.0;
           $data->{$_.':percentWrong'} = sprintf("%.1f", $pw);
   
         # Degree of Difficulty          # Degree of Difficulty
         $data->{$_.':degreeOfDifficulty'} = ($data->{$_.':totalTries'}) ?          my $dod = ($data->{$_.':totalTries'}) ?
             (1 - (($data->{$_.':correct'} + $data->{$_.':correctByOverride'}) /              (1 - (($data->{$_.':correct'} + $data->{$_.':correctByOverride'}) /
                   $data->{$_.':totalTries'})) : 0;                    $data->{$_.':totalTries'})) : 0;
   
           $data->{$_.':degreeOfDifficulty'} = sprintf("%.2f", $dod);
   
         # Factor in mean          # Factor in mean
         my $studentTries = $data->{$_.':studentTries'};          my @studentTries = split(':::', $data->{$_.':studentTries'});
         foreach(my $index=0; $index < scalar(@$studentTries); $index++) {          foreach(my $index=0; $index < scalar(@studentTries); $index++) {
             $studentTries->[$index] -= $data->{$_.':mean'};              $studentTries[$index] -= $mean;
         }          }
         my $sumSquared = 0;          my $sumSquared = 0;
         my $sumCubed = 0;          my $sumCubed = 0;
         foreach(@$studentTries) {          foreach(@studentTries) {
             my $squared = ($_ * $_);              my $squared = ($_ * $_);
             my $cubed = ($squared * $_);              my $cubed = ($squared * $_);
             $sumSquared += $squared;              $sumSquared += $squared;
Line 532  sub CalculateStatistics { Line 774  sub CalculateStatistics {
         }          }
   
         # Standard deviation          # Standard deviation
         $data->{$_.':standardDeviation'} = ($data->{$_.':studentCount'} - 1) ?          my $standardDeviation;
             ((sqrt($sumSquared)) / ($data->{$_.':studentCount'} - 1)) : 0;          if($data->{$_.':studentCount'} - 1 > 0) {
               $standardDeviation = (sqrt($sumSquared)) / 
                                    ($data->{$_.':studentCount'} - 1);
           } else {
               $standardDeviation =  0.0;
           }
           $data->{$_.':standardDeviation'} = sprintf("%.1f", $standardDeviation);
   
         # Skewness          # Skewness
         my $standardDeviation = $data->{$_.':standardDeviation'};          my $skew;
         $data->{$_.':skewness'} = ($data->{$_.':standardDeviation'}) ?          if($standardDeviation > 0.0999 && $data->{$_.':studentCount'} > 0) {
             (((sqrt($sumSquared)) / $data->{$_.':studentCount'}) /               $skew = (((sqrt($sumSquared)) / $data->{$_.':studentCount'}) / 
              ($standardDeviation * $standardDeviation * $standardDeviation)) :                       ($standardDeviation * 
              0;                        $standardDeviation * 
                         $standardDeviation));
           } else {
               $skew = 0.0;
           }
   
         # Discrimination Factor 1          $data->{$_.':skewness'} = sprintf("%.1f", $skew);
         $data->{$_.':discriminationFactor1'} = 0;  
   
         # Discrimination Factor 2          # Discrimination Factor 1
         $data->{$_.':discriminationFactor2'} = 0;          my ($sequence, $problem, $part) = split(':', $_);
     }  
   
     return;          my @upper1 = split(':::', $data->{'studentsUpperListCriterion1'});
 }          my @lower1 = split(':::', $data->{'studentsLowerListCriterion1'});
   
 sub ProcessDiscriminant {          my $upper1Sum=0;
     my ($List) = @_;          foreach my $name (@upper1) {
     my @sortedList = sort (@$List);              $upper1Sum += $cache->{"$name:$problem:$part:awarded"};
     my $Count = scalar @sortedList;  
     my $Problem;  
     my @Dis;  
     my $Slvd=0;  
     my $tmp;  
     my $Sum1=0;  
     my $Sum2=0;  
     my $nIndex=0;  
     my $nStudent=0;  
     my %Proc=undef;  
     while ($nIndex<$Count) {  
 #        $jr->print("<br> $nIndex) $sortedList[$nIndex]");  
  ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);  
  @Dis=split(/\+/,$tmp);  
  my $Temp = $Problem;  
  do {  
     $nIndex++;  
     $nStudent++;  
     $Sum1 += $Dis[0];  
     $Sum2 += $Dis[1];  
     ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);  
     @Dis=split(/\+/,$tmp);  
  } while ( $Problem eq $Temp && $nIndex < $Count );  
  $Proc{$Temp}=($Sum1/$nStudent).':'.($Sum2/$nStudent);  
 #        $jr->print("<br> $nIndex) $Temp --> ($nStudent) $Proc{$Temp}");  
  $Sum1=0;  
  $Sum2=0;  
  $nStudent=0;  
     }  
   
     return %Proc;  
 }  
   
 #------- Creating Discimination factor     
 sub Discriminant {  
     my ($discriminant)=@_;  
     my @discriminantKeys=keys(%$discriminant);  
     my $Count = scalar @discriminantKeys;  
   
     my $UpCnt = int(0.27*$Count);  
     my $low=0;  
     my $up=$Count-$UpCnt;  
     my @UpList=();  
     my @LowList=();  
   
     $Count=0;  
     foreach my $key (sort(@discriminantKeys)) {   
  $Count++;      
  if($low < $UpCnt || $Count > $up) {  
             $low++;  
             my $str=$discriminant->{$key};  
             foreach(split(/\&/,$str)){  
                 if($_) {  
                     if($low<$UpCnt) { push(@LowList,$_); }  
                     else            { push(@UpList,$_);  }  
                 }  
             }  
         }          }
     }          $upper1Sum = (scalar(@upper1)) ? ($upper1Sum/(scalar(@upper1))) : 0;
     my %DisUp =  &ProcessDiscriminant(\@UpList);  
     my %DisLow = &ProcessDiscriminant(\@LowList);  
   
     return (\%DisUp, \%DisLow);  
 }     
   
 #---- END Problem Statistics Web Page ----------------------------------------  
   
 #---- Problem Statistics Graph Web Page --------------------------------------          my $lower1Sum=0;
           foreach my $name (@lower1) {
               $lower1Sum += $cache->{"$name:$problem:$part:awarded"};
           }
           $lower1Sum = (scalar(@lower1)) ? ($lower1Sum/(scalar(@lower1))) : 0;
   
 # ------------------------------------------- Prepare data for Graphical chart          my $df1 = $upper1Sum - $lower1Sum;
           $data->{$_.':discriminationFactor1'} = sprintf("%.2f", $df1);
   
 sub BuildGraphicChart {          # Discrimination Factor 2
     my ($graph,$cacheDB,$courseDescription,$r)=@_;          my @upper2 = split(':::', $data->{'studentsUpperListCriterion2'});
     my %cache;          my @lower2 = split(':::', $data->{'studentsLowerListCriterion2'});
     my $max = 0;  
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {          my $upper2Sum=0;
         return '<html><body>Unable to tie database.</body></html>';          foreach my $name (@upper2) {
     }              $upper2Sum += $cache->{"$name:$problem:$part:awarded"};
      
     my @problems = split(':::', $cache{'problemList'});  
     my @values = ();  
     foreach (@problems) {  
         my $data = 0;  
         if($graph eq 'DoDiffGraph') {  
             $data = sprintf("%.2f", $cache{$_.':degreeOfDifficulty'}),  
         } else {  
             $data = sprintf("%.1f", $cache{$_.':percentWrong'}),  
         }          }
         if($max < $data) {          $upper2Sum = (scalar(@upper2)) ? ($upper2Sum/(scalar(@upper2))) : 0;
             $max = $data;  
           my $lower2Sum=0;
           foreach my $name (@lower2) {
               $lower2Sum += $cache->{"$name:$problem:$part:awarded"};
         }          }
         push(@values, $data);          $lower2Sum = (scalar(@lower2)) ? ($lower2Sum/(scalar(@lower2))) : 0;
     }  
     untie(%cache);  
   
     my $sendValues = join(',', @values);          my $df2 = $upper2Sum - $lower2Sum;
 #    my $sendCount = $#values;          $data->{$_.':discriminationFactor2'} = sprintf("%.2f", $df2);
     my $sendCount = scalar(@values);  
   
     my $title = '';          my %storestats;
     if($graph eq 'DoDiffGraph') {          my $Average = ($data->{$_.':studentCount'}) ? 
  $title = 'Degree-of-Difficulty';              $data->{$_.':totalTries'}/$data->{$_.':studentCount'} : 0;
     } else {          $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
  $title = 'Wrong-Percentage';                          '___timestamp'}=time;
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___stdno'}=$data->{$_.':studentCount'};
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___avetries'}=$Average;
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___difficulty'}=$data->{$_.':degreeOfDifficulty'};
           $cache->{$sequence.':source'} =~ /^(\w+)\/(\w+)/;
           if($data->{$_.':studentCount'}) { 
               &Apache::lonnet::put('nohist_resevaldata',\%storestats,$1,$2);
           }
     }      }
     my @GData = ($courseDescription, 'Problems', $title, $max, $sendCount,   
                  $sendValues);  
   
     $r->print('</form>'."\n");  
     $r->print('<IMG src="/cgi-bin/graph.gif?'.(join('&', @GData)).'" border="1" />');  
     $r->print('<form>'."\n");  
   
     return;      return;
 }  }
   
   #---- END Problem Statistics Web Page ----------------------------------------
   
 1;  1;
 __END__  __END__

Removed from v.1.22  
changed lines
  Added in v.1.39


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>