Diff for /loncom/interface/statistics/lonproblemstatistics.pm between versions 1.14 and 1.37

version 1.14, 2002/08/06 02:01:05 version 1.37, 2002/11/26 16:59:03
Line 30 Line 30
 # 5/5,7/9,7/25/1,8/11,9/13,9/26,10/5,10/9,10/22,10/26 Behrouz Minaei  # 5/5,7/9,7/25/1,8/11,9/13,9/26,10/5,10/9,10/22,10/26 Behrouz Minaei
 # 11/1,11/4,11/16,12/14,12/16,12/18,12/20,12/31 Behrouz Minaei  # 11/1,11/4,11/16,12/14,12/16,12/18,12/20,12/31 Behrouz Minaei
 # YEAR=2002  # YEAR=2002
 # 1/22,2/1,2/6,2/25,3/2,3/6,3/17,3/21,3/22,3/26,4/7,5/6 Behrouz Minaei  # 1/22,2/1,2/6,2/25,3/2,3/26,4/7,5/6 Behrouz Minaei
 # 5/12,5/14,5/15,5/19,5/26,7/16,7/25,7/29,8/5  Behrouz Minaei  # 5/12,5/26,7/16,7/29,8/5,10/31  Behrouz Minaei
 #  #
 ###  ###
   
 package Apache::lonproblemstatistics;   package Apache::lonproblemstatistics;
   
 use strict;  use strict;
 use Apache::lonnet();  use Apache::lonnet();
Line 44  use Apache::loncoursedata; Line 44  use Apache::loncoursedata;
 use GDBM_File;  use GDBM_File;
   
   
 sub BuildProblemStatisticsPage {  sub InitializeProblemStatistics {
     my ($cacheDB, $students, $courseID, $c, $r)=@_;      my ($cacheDB, $students, $courseID, $c, $r)=@_;
     my %cache;      my %cache;
     #my %DoDiff;  
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
         return '<html><body>Unable to tie database.</body></html>';          $r->print('Unable to tie database1.');
           return ('ERROR', undef);
       }
   
       # Remove students who don't have the proper section.
       my @sectionsSelected = split(':',$cache{'sectionsSelected'});
       for(my $studentIndex=((scalar @$students)-1); $studentIndex>=0;
           $studentIndex--) {
           my $value = $cache{$students->[$studentIndex].':section'};
           my $found = 0;
           foreach (@sectionsSelected) {
               if($_ eq 'none') {
                   if($value eq '' || !defined($value) || $value eq ' ') {
                       $found = 1;
                       last;
                   }
               } else {
                   if($value eq $_) {
                       $found = 1;
                       last;
                   }
               }
           }
           if($found == 0) {
               splice(@$students, $studentIndex, 1);
           }
     }      }
   
     my $Ptr = '';      my $isNotCached = 0;
     $Ptr .= '<table border="0"><tbody>';      my $lastStatus = (defined($cache{'StatisticsLastStatus'})) ?
     $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";                       $cache{'StatisticsLastStatus'} : 'Nothing';
     $Ptr .= '<td align="left">';      my $whichStudents = join(':::',sort(@$students));
     $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'ProblemStatistics',      if(!defined($cache{'StatisticsCached'}) ||
                                                'Statistics');         $lastStatus ne $cache{'Status'} ||
     $Ptr .= '</td></tr>'."\n";         $whichStudents ne $cache{'StatisticsWhichStudents'}) {
     $Ptr .= '<tr><td align="right"><b>Sorting Type:</b></td>'."\n";          $isNotCached = 1;
     $Ptr .= '<td align="left">'."\n";      }
     $Ptr .= &Apache::lonhtmlcommon::AscendOrderOptions(  
                                             $cache{'ProblemStatisticsAscend'},   
                                             'ProblemStatistics',  
                                             'Statistics');  
     $Ptr .= '</td></tr>'."\n";  
     $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'});  
     $Ptr .= '</table>';  
     $Ptr .= &ProblemStatisticsLegend();  
     $r->print($Ptr);  
     $r->rflush();  
   
     untie(%cache);      untie(%cache);
     &Create_PrgWin($r);      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {
     my $count=0;          $r->print('Unable to tie database.2');
     foreach (@$students) {          return ('ERROR', undef);
         &Update_PrgWin(scalar(@$students),$count,$_,$r);      }
         my $courseData =       if($isNotCached && defined($cache{'StatisticsCached'})) {
             &Apache::loncoursedata::DownloadCourseInformation($_, $courseID);          my @statkeys = split(':::', $cache{'StatisticsKeys'});
         last if ($c->aborted());          delete $cache{'StatisticsKeys'};
         if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {          delete $cache{'StatisticsCached'};
             &Apache::loncoursedata::ProcessStudentData(\%cache,           foreach(@statkeys) {
                                                        $courseData, $_);              delete $cache{$_};
             untie(%cache);  
         }          }
         $count++;  
     }      }
     &Close_PrgWin($r);  
     if($c->aborted()) { return; }  
   
     unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER,0640)) {      untie(%cache);
         return '<html><body>Unable to tie database.</body></html>';      if($isNotCached) {
           &Apache::loncoursedata::DownloadStudentCourseDataSeparate($students,
                                                                     'true',
                                                                     $cacheDB,
                                                                     'true',
                                                                     'true',
                                                                     $courseID,
                                                                     $r, $c);
       }
       if($c->aborted()) { return ('ERROR', undef); }
   
       unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
           $r->print('Unable to tie database.3');
           return ('ERROR', undef);
       }
       my $problemData;
       if($isNotCached) {
           ($problemData) = &ExtractStudentData(\%cache, $students);
           &CalculateStatistics($problemData, \%cache, $courseID);
     }      }
       untie(%cache);
   
     my %Header = (0,"Homework Sets Order",1,"#Stdnts",2,"Tries",3,"Mod",      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT(),0640)) {
                   4,"Mean",5,"#YES",6,"#yes",7,"%Wrng",8,"DoDiff",          $r->print('Unable to tie database.4');
                   9,"S.D.",10,"Skew.",11,"D.F.1st",12,"D.F.2nd", 13, "Disc.");          return ('ERROR', undef);
     my $color=&setbgcolor(0);      }
       if($isNotCached) {
     my $state=$ENV{'form.ProblemStatisticsHeading'};           foreach(keys(%$problemData)) {
               $cache{$_} = $problemData->{$_};
 #    my $state=&Apache::lonstatistics::CheckFormElement(\%cache,          }
 #                                                  'ProblemStatisticsHeading',          $cache{'StatisticsKeys'} = join(':::', keys(%$problemData));
 #                                                  'ProblemStatisticsHeading',          $cache{'StatisticsCached'} = 'true';
 #                                                  'Homework Sets Order');           $cache{'StatisticsLastStatus'} = $cache{'Status'};
 #    $r->print("<br>state=".$state);          $cache{'StatisticsWhichStudents'} = $whichStudents;
   
     my $TempCache;  
   
     if ($state) {  
  $TempCache=&CacheStatisticsTable($state,\%cache,\%Header,  
  $r,$color);  
     } else {      
  my %discriminant=();  
  my @list=();  
  my %Discuss=&Apache::loncoursedata::LoadDiscussion($courseID);  
  my $index=0;  
  foreach (@$students) {  
     $index++;  
     #&Apache::lonstatistics::Update_PrgWin(++$index,$r);  
     &ExtractStudentData(\%cache, $_, \@list,\%Discuss, $r,  
                                 \%discriminant);  
  }  
  #&Apache::lonstatistics::Close_PrgWin($r);  
  my ($upper, $lower) = &Discriminant(\%discriminant,$r);  
  $TempCache= &BuildStatisticsTable(\%cache, $upper, $lower,   
    \@list, \%Header, $students,  
    $r, $color);  
     }      }
     untie(%cache);      untie(%cache);
   
     foreach (keys %$TempCache) {      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
         last if ($c->aborted());          $r->print('Unable to tie database.5');
         if(tie(%cache,'GDBM_File',$cacheDB,&GDBM_WRCREAT,0640)) {          return ('ERROR', undef);
     $cache{$_}=$TempCache->{$_};  
   
             untie(%cache);  
         }  
     }      }
     if($c->aborted()) { return; }  
       my $orderedProblems = &SortProblems(\%cache,
                                           $cache{'ProblemStatisticsSort'},
                                           $cache{'SortProblems'},
                                           $cache{'ProblemStatisticsAscend'});
     untie(%cache);      untie(%cache);
   
       return ('OK', $orderedProblems);
 }  }
   
   sub BuildProblemStatisticsPage {
       my ($cacheDB, $students, $courseID, $c, $r)=@_;
   
 #---- Problem Statistics Web Page ---------------------------------------      my @Header = ("Homework Sets Order","#Stdnts","Tries","Mod",
                     "Mean","#YES","#yes","%Wrng","DoDiff",
                     "S.D.","Skew.","D.F.1st","D.F.2nd");
       my $color=&setbgcolor(0);
       my %cache;
   
 sub CreateProblemStatisticsTableHeading {      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
     my ($displayFormat,$sequenceSource,$sequenceTitle,$headings,$r)=@_;          $r->print('Unable to tie database.6');
     if($displayFormat eq 'Display CSV Format') {          return;
         $r->print('<br>"'.$sequenceTitle.'","');  
         $r->print($sequenceSource.'"');  
  return;  
     }  
     if ($sequenceSource eq 'Sorted by: ') {  
  $r->print('<br><b>'.$sequenceSource.$sequenceTitle.'</b>');  
     } else {  
         $r->print('<br><a href="'.$sequenceSource.  
   '" target="_blank">'.$sequenceTitle.'</a>');  
     }      }
     my $Result = "\n".'<table border=2><tr><th>P#</th>'."\n";      my $Ptr = '';
     for(my $nIndex=0; $nIndex < (scalar (keys %$headings)); $nIndex++) {       $Ptr .= '<table border="0" cellspacing="5"><tbody>';
  $Result .= '<th>'.'<input type="submit" name="';      $Ptr .= '<tr><td align="right"><b>Select Map</b></td>'."\n";
         $Result .= 'ProblemStatisticsHeading" value="';      $Ptr .= '<td align="left">';
         $Result .= $headings->{$nIndex}.'" />'.'</th>'."\n";      $Ptr .= &Apache::lonhtmlcommon::MapOptions(\%cache, 'Statistics',
                                                  'Statistics');
       $Ptr .= '</td></tr>'."\n";
       $Ptr .= '<tr><td align="right"><b>Sorting Type:</b></td>'."\n";
       $Ptr .= '<td align="left">'."\n";
       $Ptr .= &Apache::lonhtmlcommon::AscendOrderOptions(
                                              $cache{'ProblemStatisticsAscend'},
                                              'ProblemStatistics',
                                              'Statistics');
       $Ptr .= '</td></tr>'."\n";
       $Ptr .= '<tr><td align="right"><b>Select Sections</b>';
       $Ptr .= '</td>'."\n";
       $Ptr .= '<td align="left">'."\n";
       my @sections = split(':',$cache{'sectionList'});
       my @sectionsSelected = split(':',$cache{'sectionsSelected'});
       $Ptr .= &Apache::lonhtmlcommon::MultipleSectionSelect(\@sections,
                                                             \@sectionsSelected,
                                                             'Statistics');
       $Ptr .= '</td></tr>'."\n";
       $Ptr .= &ProblemStatisticsButtons($cache{'DisplayFormat'},
                                         $cache{'DisplayLegend'},
                                         $cache{'SortProblems'});
       $Ptr .= '</table>';
       if($cache{'DisplayLegend'} eq 'Show Legend') {
           $Ptr .= &ProblemStatisticsLegend();
     }      }
     $Result .= "\n".'</tr>'."\n";          $r->print($Ptr);
     $r->print($Result);  
     $r->rflush();  
 }  
   
 sub CloseTable {  
     my ($cache,$r)=@_;  
     if($cache->{'DisplayFormat'} eq 'Display CSV Format') {  
  return;  
     }      
     $r->print("\n".'</table>'."\n");  
     $r->rflush();      $r->rflush();
 }      untie(%cache);
   
       my ($result, $orderedProblems) =
           &InitializeProblemStatistics($cacheDB, $students, $courseID, $c, $r);
       if($result ne 'OK') {
           return;
       }
   
 # Create progress      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
 sub Create_PrgWin {          $r->print('Unable to tie database.6');
     my ($r)=@_;          return;
     $r->print(<<ENDPOP);      }
     <script>      &BuildStatisticsTable(\%cache, $cache{'DisplayFormat'},
     popwin=open('','popwin','width=400,height=100');                            $cache{'SortProblems'}, $orderedProblems,
     popwin.document.writeln('<html><body bgcolor="#88DDFF">'+                            \@Header, $r, $color);
       '<title>LON-CAPA Statistics</title>'+      untie(%cache);
       '<h4>Computation Progress</h4>'+  
       '<form name=popremain>'+  
       '<input type=text size=35 name=remaining value=Starting></form>'+  
       '</body></html>');  
     popwin.document.close();  
     </script>  
 ENDPOP  
   
     $r->rflush();      return;
 }  }
   
 # update progress  sub BuildGraphicChart {
 sub Update_PrgWin {      my ($graph,$cacheDB,$courseDescription,$students,$courseID,$r,$c)=@_;
     my ($totalStudents,$index,$name,$r)=@_;      my %cache;
     $r->print('<script>popwin.document.popremain.remaining.value="'.      my $max;
               'Computing '.$index.'/'.$totalStudents.': '.      unless(tie(%cache,'GDBM_File',$cacheDB,&GDBM_READER(),0640)) {
               $name.'";</script>');          return 'Unable to tie database.7';
     $r->rflush();      }
 }  
   
 # close Progress Line      my $title = '';
 sub Close_PrgWin {      if($graph eq 'DoDiffGraph') {
     my ($r)=@_;   $title = 'Degree-of-Difficulty';
     $r->print('<script>popwin.close()</script>');      } else {
     $r->rflush();    $title = 'Wrong-Percentage';
 }      }
   
        my $currentSequence = -1;
 # ------ Dump the Student's DB file and handling the data for statistics table       my $sortProblems = 'Sort Within Sequence';
 sub ExtractStudentData {  
     my ($cache,$name,$list,$Discuss,$r,$discriminant)=@_;  
     my $totalTries = 0;  
     my $totalAwarded = 0;  
     my $spent=0;  
     my $spent_yes=0;  
     my $TotDiscuss=0;  
     my $TotalOpend = 0;  
     my $ProbSolved = 0;  
     my $ProbTot = 0;  
     my $TotFirst = 0;  
     my $TimeTot = 0;  
     my $Discussed=0;  
     my $discrim='';  
     my $tempSequenceOrder=100;  
   
 #$Apache::lonxml::debug=1;  
 #&Apache::lonhomework::showhash(%$cache);  
 #$Apache::lonxml::debug=0;  
   
     foreach my $sequence (split(':', $cache->{'orderedSequences'})) {      my ($result, $orderedProblems) =
  my $tempProblemOrder=100;          &InitializeProblemStatistics($cacheDB, $students, $courseID, $c, $r);
         if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&      if($result ne 'OK') {
            $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {          return;
 #    $r->print("<br>sequences=$cache->{'orderedSequences'}");      }
 #    $r->print("<br>".$cache->{$sequence.':title'});  
             next;      my @values = ();
   
       foreach(@$orderedProblems) {
           my ($sequence,$problem,$part)=split(':', $_);
           if($cache{'StatisticsMaps'} ne 'All Maps'  &&
              $cache{'StatisticsMaps'} ne $cache{$sequence.':title'}) {
                next;
         }          }
  $tempSequenceOrder++;  
   
         #$discrim .= '&';          if( $currentSequence == -1 ||
         foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {              ($sortProblems eq 'Sort Within Sequence' &&
 #    $r->print("<br>problems=$cache->{$sequence.':problems'}");              $currentSequence != $sequence)) {
             my $problem = $cache->{$problemID.':problem'};      if($currentSequence != -1) {
 #    $r->print("<br>$problemID === $problem");   &DrawGraph(\@values,$courseDescription,$title,$max,$r);
             my $LatestVersion = $cache->{$name.':version:'.$problem};      }
     # Output dashes for all the parts of this problem if there              if($sortProblems eq 'Sort Within Sequence') {
             # is no version information about the current problem.                  $r->print('<br><b>'.$cache{$sequence.':title'}.'</b>'."\n");
             #if(!$LatestVersion) {  
             #    foreach my $part (split(/\:/,$cache->{$sequence.':'.  
             #                                          $problemID.  
             #                                          ':parts'})) {  
             #        $codes    .= "-,";  
             #        $attempts .= "0,";   
             #    }  
             #    next;  
             #}  
   
             my %partData=undef;  
     $partData{'count'}=0;  
             # Initialize part data, display skips correctly  
             # Skip refers to when a student made no submissions on that  
             # part/problem.  
             foreach my $part (split(/\:/,$cache->{$sequence.':'.  
                                                   $problemID.  
                                                   ':parts'})) {  
  $tempProblemOrder++;  
  $partData{'count'}++;  
 # $r->print("<br>parts=$cache->{$sequence.':'.$problemID.':parts'}");  
                 $partData{$part.':order'}=$tempProblemOrder;  
                 $partData{$part.':tries'}=0;  
                 $partData{$part.':code'}='-';  
             }              }
   
             # Looping through all the versions of each part, starting with the              $currentSequence = $sequence;
             # oldest version.  Basically, it gets the most recent               @values = ();
             # set of grade data for each part.      $max=0;
     for(my $Version=1; $Version<=$LatestVersion; $Version++) {          }
  foreach my $part (split(/\:/,$cache->{$sequence.':'.          my $data = 0;
                                                       $problemID.          if($graph eq 'DoDiffGraph') {
                                                       ':parts'})) {              $data = sprintf("%.2f", $cache{$_.':degreeOfDifficulty'}),
           } else {
                     if(!defined($cache->{$name.":$Version:$problem".              $data = sprintf("%.1f", $cache{$_.':percentWrong'}),
                                                ":resource.$part.solved"})) {          }
                         # No grade for this submission, so skip          if($max < $data) {
                         next;              $max = $data;
                     }          }
           push(@values, $data);
       }
       untie(%cache);
   
                     my $tries=0;      &DrawGraph(\@values,$courseDescription,$title,$max,$r);
                     my $time=0;  
                     my $awarded=0;  
     $Discussed=0;  
                     my $code='-';  
   
                     $awarded = $cache->{"$name:$Version:$problem:resource.".  
                                         "$part.awarded"};  
                     $partData{$part.':awarded'} = ($awarded) ? $awarded : 0;  
                     $totalAwarded += $awarded;  
   
                     $tries = $cache->{"$name:$Version:$problem".      return;
                                       ":resource.$part.tries"};  }
                     $partData{$part.':tries'} = ($tries) ? $tries : 0;  
                     $partData{$part.':wrong'} = $partData{$part.':tries'};  
                     $totalTries += $tries;  
   
                     my $val = $cache->{$name.":$Version:$problem".  
                                        ":resource.$part.solved"};  
                     if    ($val eq 'correct_by_student')   {$code = 'C';}   
                     elsif ($val eq 'correct_by_override')  {$code = 'O';}  
                     elsif ($val eq 'incorrect_attempted')  {$code = 'I';}   
                     elsif ($val eq 'incorrect_by_override'){$code = 'I';}  
                     elsif ($val eq 'excused')              {$code = 'x';}  
                     $partData{$part.':code'}=$code;  
                     if($partData{$part.':wrong'} ne 0 &&   
                        ($code eq 'C' || $code eq 'O')) {  
                         $partData{$part.':wrong'}--;  
                     }  
                 }  
             }  
   
 #$Apache::lonxml::debug=1;  sub DrawGraph {
 #&Apache::lonhomework::showhash(%partData);      my ($values,$courseDescription,$title,$Max,$r)=@_;
 #$Apache::lonxml::debug=0;      my $sendValues = join(',', @$values);
       my $sendCount = scalar(@$values);
             # Loop through all the parts for the current problem in the       $r->print("<br>The Maximum Value is: $Max");
             # correct order and prepare the output      if ( $Max > 1 ) {
     my $partCounter=0;   if ($Max % 10) {
             foreach (split(/\:/,$cache->{$sequence.':'.$problemID.              if ( int($Max) < $Max ) {
                                          ':parts'})) {       $Max++;
  $partCounter++;   $Max = int($Max);
                 my $Yes = 0;      }
                 if($partData{$_.':code'} eq 'C' ||    }
                    $partData{$_.':code'} eq 'O') {      #(10 - $Max % 10);
                     $Yes=1;      } else { $Max = 1; }
                 }  
                 my $pOrder=$partData{$_.':order'};  
                 my $ptr = $tempSequenceOrder.':'.$pOrder.':'.$problemID;  
   
                 if($partData{'count'} > 1) {      my @GData = ('','Problem_number',$title,$Max,$sendCount,$sendValues);
                     $ptr .= "*(part $_)";  
                 }  
                 #if($partCounter > 1) {  
                     $discrim .= '&';  
                 #}  
   
  my ($pr_no,$dod)=split('&',$ptr);  
 # my $DoDiff=$DoDiff->{$dod};  
 #               $r->print('<br>'.$name.'---'.$ptr.'==='.$DoDiff);  
   
                 my $Fac = ($partData{$_.':tries'}) ?   
                     ($partData{$_.':awarded'}/$partData{$_.':tries'}) : 0;  
                 my $DisF;  
                 if($Fac > 0 &&  $Fac < 1) {   
                     $DisF = sprintf( "%.4f", $Fac );  
                 } else {  
                     $DisF = $Fac;  
                 }  
   
                 if ($Discuss->{"$name:$problem"}) {  #    $r->print('</form>'."\n");
     $TotDiscuss++;      $r->print('<br>'."\n");
                     $Discussed=1;      $r->print('<IMG src="/cgi-bin/graph.gif?'.
                 }                (join('&', @GData)).'" border="1" />');
                 my $time = $cache->{"$name:$LatestVersion:$problem:timestamp"};  #    $r->print('<form>'."\n");
                 $discrim .= $tempSequenceOrder.'@'.$pOrder.'='.$DisF.'+'.$Yes;      $r->print('<br>'."\n");
                 $ptr .= '&'.$partData{$_.':tries'}.  }
                         '&'.$partData{$_.':wrong'}.  
                         '&'.$partData{$_.':code'};  
                 push (@$list, $ptr."&$Discussed");  
 #                $r->print('<br>'.$_.$name.'---'.$ptr);  
   
 #### if ($DoDiff>0.85) {  
   
                 $TimeTot += $time;  #---- Problem Statistics Web Page ---------------------------------------
   
                 if ($Yes==1 && $partData{$_.':tries'}==1) {  sub CreateProblemStatisticsTableHeading {
     $TotFirst++;      my ($headings,$r)=@_;
                 }  
 # my $Acts= $Activity->{$name.':'.$problem};  
 # if ($Acts) {  
 #    my $Pt=&ProcAct( $Acts, $time );  
     #my ($spe,$beg) = split(/\+/,$Pt);  
 #                    my $spe= $Pt;  
 #    if ($Yes==1) {$spent_yes += $spe;}  
 #    $spent += $spe;  
     #$Beg += $beg;  
 #                   $r->print('<br>'.$name.'---'.$problem.'---'.$spe);  
 # }  
  $TotalOpend++;  
  $ProbTot++;  
   
                 $tempProblemOrder++;      my $Str='';
             }      $Str .= '<tr>'."\n";
         }      $Str .= '<th bgcolor="#ffffe6">P#</th>'."\n";
     }      foreach(@$headings) {
     my $pstr;   $Str .= '<th bgcolor="#ffffe6">';
     if($totalTries) {          $Str .= '<a href="/adm/statistics?reportSelected=';
  my $DisFac = ($totalAwarded/$totalTries);          $Str .= &Apache::lonnet::escape('Problem Statistics');
  my $DisFactor = sprintf( "%.4f", $DisFac );          $Str .= '&ProblemStatisticsSort=';
         my $TS = sprintf( "%.2f", $spent );          $Str .= &Apache::lonnet::escape($_).'">'.$_.'</a>&nbsp</th>'."\n";
         my $TS_yes = sprintf( "%.2f", $spent_yes );  
  $pstr=$DisFactor.':'.$name.':'.$ProbTot.':'.$TotalOpend.':'.  
               $totalTries.':'.$ProbSolved.':'.$TotFirst.':'.  
               $TS_yes.':'.$TS.':'.$TotDiscuss;  
  (%$discriminant)->{$pstr}=$discrim;  
     }      }
 }      $Str .= "\n".'</tr>'."\n";
   
 sub NumericSort {      return $Str;
     $a <=> $b;  
 }  
   
 sub OrderedSort  {  
     if ($ENV{'form.order'} eq 'Descending') {  
  $b <=> $a;  
     } else {   
  $a <=> $b;  
     }  
 }  }
   
   
   
 sub BuildStatisticsTable {  sub BuildStatisticsTable {
     my ($cache,$upper,$lower,$list,$headings,$students,$r,$color)=@_;      my ($cache,$displayFormat,$sortProblems,$orderedProblems,$headings,
     my $NoElements = scalar @$list;          $r,$color)=@_;
     my @list=sort(@$list);  
   
 #6666666  
 #    my $file="/home/httpd/perl/tmp/183d.txt";  
 #    open(OUT, ">$file");  
 #6666666  
 ##     &Apache::lonstatistics::Create_PrgWin($r);  
 ##777777  
 ##    my (%Activity) = &LoadActivityLog();  
 ##    $r->print('<script>popwin.document.popremain.remaining.value="'.  
 ##              'Loading Discussion...";</script>');  
 ##    my ($doDiffFile) = &LoadDoDiffFile();  
   
 ##777777  
 ##    $Str .= &Classify($discriminantFactor, $students);  
   
     my $p_count = 0;  
     my $dummy;  
     my $p_val;  
     my $ResId;  
     my %TempCache;  
     my $cIdx=0;  
   
     foreach my $sequence (split(':', $cache->{'orderedSequences'})) {      my $count = 1;
         if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&      my $currentSequence = -1;
            $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {      foreach(@$orderedProblems) {
           my ($sequence,$problem,$part)=split(':', $_);
           if($cache->{'StatisticsMaps'} ne 'All Maps'  &&
              $cache->{'StatisticsMaps'} ne $cache->{$sequence.':title'}) {
             next;              next;
         }          }
         &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              $cache->{$sequence.':source'},  
                                              $cache->{$sequence.':title'},   
                                              $headings,$r);  
  my ($tar,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,  
                                                    $list[$cIdx]);  
         my ($SqOrd,$PrOrd,$Prob)=split(/\:/,$tar);  
  $sequence+=100;  
  while ($SqOrd==$sequence && $cIdx<$NoElements) {  
     my %storestats=();  
     my $pOrd=$PrOrd;  
     my $Temp = $Prob;  
     my $MxTries = 0;  
     my $TotalTries = 0;  
     my $YES = 0;  
     my $Incorrect = 0;  
     my $Override = 0;  
     my $StdNo = 0;  
     my $DiscNo=0;  
     my @StdLst;  
     while ($pOrd==$PrOrd && $cIdx<$NoElements)  
     {  
  $cIdx++;  
  $StdNo++;  
  $StdLst[ $StdNo ] = $Tries;  
  $TotalTries += $Tries;  
  if ( $MxTries < $Tries ) { $MxTries = $Tries; }   
  if ( $Code eq 'C' ){ $YES++; }  
  elsif( $Code eq 'I' ) { $Incorrect++; }  
  elsif( $Code eq 'O' ) { $Override++; }  
  elsif( $Code eq '-' ) { $StdNo--; }  
  ($tar,$Tries,$Wrongs,$Code,$Disc)=split(/\&/,  
                                                      $list[$cIdx]);  
         ($SqOrd,$PrOrd,$Prob)=split(/\:/,$tar);  
     }  
   
     $p_count++;          if($currentSequence == -1 ||
     my $Dummy;             ($sortProblems eq 'Sort Within Sequence' &&
     ($ResId,$Dummy)=split(/\*/,$Temp);              $currentSequence != $sequence)) {
               if($displayFormat ne 'Display CSV Format') {
 ######################                  if($currentSequence ne -1) {
     $Temp = '<a href="'.$cache->{$ResId.':source'}.                      $r->print('</table>');
                 '" target="_blank">'.$cache->{$ResId.':title'}.$Dummy.'</a>';                      $r->print('</td></tr></table><br>');
                   }
     #$r->print('<br>rid='.$ResId);                  if($sortProblems eq 'Sort Within Sequence') {
     #$r->print('<br>src='.$cache->{$ResId.':source'});                      $r->print('<b>'.$cache->{$sequence.':title'}.'</b>');
     #$r->print('<br>tit='.$cache->{$ResId.':title'});                  }
                   $r->print('<table border="0"><tr><td bgcolor="#777777">'."\n");
     my $res = &Apache::lonnet::declutter($cache->{$ResId.':source'});                  $r->print('<table border="0" cellpadding="3">'."\n");
     my $urlres=$res;                  $r->print(&CreateProblemStatisticsTableHeading($headings, $r));
               } else {
     $ResId=~/(\d+)\.(\d+)/;                  if($sortProblems eq 'Sort Within Sequence') {
     my $Map = &Apache::lonnet::declutter( $cache->{'map_id_'.$1} );                      $r->print('"'.$cache->{$sequence.':title'}.'"');
     $urlres=$Map;                  }
 #######################                  $r->print('<br>');
               }
 #    $res = '<a href="'.$cache->{$ResId.':source'}.'">'.$res.'</a>';              $currentSequence = $sequence;
     #$Map = '<a href="'.$Map.'">'.$res.'</a>';          }
   
 #------------------------ Compute the Average of Tries about one problem  
     my $Average = ($StdNo) ? $TotalTries/$StdNo : 0;  
   
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___timestamp'}=time;  
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___stdno'}=$StdNo;  
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___avetries'}=$Average;  
      
 #-------------------------------- Compute percentage of Wrong tries  
     my $Wrong = ( $StdNo ) ? 100 * ( $Incorrect / $StdNo ) : 0;  
   
 #-------------------------------- Compute Standard Deviation  
     my $StdDev = 0;   
     if ( $StdNo > 1 ) {  
  for ( my $n = 0; $n < $StdNo; $n++ ) {  
     my $Dif = $StdLst[ $n ]-$Average;  
     $StdDev += $Dif*$Dif;  
  }   
  $StdDev /= ( $StdNo - 1 );  
  $StdDev = sqrt( $StdDev );  
     }  
   
 #-------------------------------- Compute Degree of Difficulty          my $ref = '<a href="'.$cache->{$problem.':source'}.
     my $DoDiff = 0;                    '" target="_blank">'.$cache->{$problem.':title'}.'</a>';
     if( $TotalTries > 0 ) {          my $title = $cache->{$problem.':title'};
  $DoDiff = 1 - ( ( $YES + $Override ) / $TotalTries );          if($part != 0) {
 #    $DoDiff =  ($TotalTries)/($YES + $Override+ 0.1);                  $title .= ' Part '.$part;
     }          }
                  my $source = $cache->{$problem.':source'};
     $storestats{$ENV{'request.course.id'}.'___'.$urlres.'___difficulty'}=$DoDiff;          my $tableData = join('&', $ref, $title, $source,
                          $cache->{$_.':studentCount'},
                          $cache->{$_.':totalTries'},
                          $cache->{$_.':maxTries'},
                          $cache->{$_.':mean'},
                          $cache->{$_.':correct'},
                          $cache->{$_.':correctByOverride'},
                          $cache->{$_.':percentWrong'},
                          $cache->{$_.':degreeOfDifficulty'},
                          $cache->{$_.':standardDeviation'},
                          $cache->{$_.':skewness'},
                          $cache->{$_.':discriminationFactor1'},
                          $cache->{$_.':discriminationFactor2'});
   
 #-------------------------------- Compute the Skewness          &TableRow($displayFormat,$tableData,$count,$r,$color);
     my $Skewness = 0;  
     my $Sum = 0;   
     if ( $StdNo > 0 && $StdDev > 0 ) {  
  for ( my $n = 0; $n < $StdNo; $n++ ) {  
     my $Dif = $StdLst[ $n ]-$Average;  
     $Skewness += $Dif*$Dif*$Dif;  
  }   
  $Skewness /= $StdNo;  
  $Skewness /= $StdDev*$StdDev*$StdDev;  
     }  
   
 #--------------------- Compute the Discrimination Factors          $count++;
             my ($Up1,$Up2)=split(/\:/,$upper->{$sequence.'@'.$pOrd});  
     my ($Lw1,$Lw2)=split(/\:/,$lower->{$sequence.'@'.$pOrd});  
   
     my $Dis1 = $Up1 - $Lw1;  
     my $Dis2 = $Up2 - $Lw2;  
     my $_D1 = sprintf("%.2f", $Dis1);  
     my $_D2 = sprintf("%.2f", $Dis2);  
   
 #-----------------  Some restition in presenting the float numbers  
     my $Avg = sprintf( "%.2f", $Average );  
     my $Wrng = sprintf( "%.1f", $Wrong );  
     my $SD = sprintf( "%.1f", $StdDev );  
     my $DoD = sprintf( "%.2f", $DoDiff );  
     my $Sk = sprintf( "%.1f", $Skewness );  
     my $join = $sequence.'@'.$pOrd.'&'.$Temp.'&'.$StdNo.'&'.  
                        $TotalTries.'&'.$MxTries.'&'.$Avg.'&'.  
                        $YES.'&'.$Override.'&'.$Wrng.'&'.$DoD.'&'.  
        $SD.'&'.$Sk.'&'.$_D1.'&'.$_D2.'&'.  
                        $DiscNo.'&'.$Prob;  
   
 #####{$sequence.'@'.$pOrd}  
     $TempCache{'CacheTable:'.($p_count-1)}=$join;  
   
 #6666666  
 #    $r->print('<br>'.$out.'&'.$DoD);  
 #            print (OUT $out.'@'.$DoD.'&');  
 #6666666  
   
     $urlres=~/^(\w+)\/(\w+)/;  
     if ($StdNo) {   
  &Apache::lonnet::put('resevaldata',\%storestats,$1,$2);   
     }  
 #-------------------------------- Row of statistical table  
             &TableRow($cache,$join,$cIdx,($p_count-1),$r,$color,  
                       \%TempCache);  
  }  
  $TempCache{'ProblemCount'}=$p_count;  
  &CloseTable($cache,$r);  
     }      }
 ###    &Close_PrgWin();      if($displayFormat ne 'Display CSV Format') {
 #6666666          $r->print('</table>'."\n");
 #    close( OUT );          $r->print('</td></tr></table>');
 #666666  
     return \%TempCache;  
 }  
   
   
 sub CacheStatisticsTable {  
     my ($state,$cache,$headings,$r,$color)=@_;  
     my @list = ();   
     my %TempCache;  
     my %myHeader = reverse( %$headings );  
     my $pos = $myHeader{$state};  
     if ($pos > 0) {$pos++;}  
     my $p_count = $cache->{'ProblemCount'};  
   
     for ( my $k=0; $k<$p_count;$k++) {  
  my $key=$cache->{'CacheTable:'.$k};  
  my @Temp=split(/\&/,$key);  
  $list[$k]=$Temp[$pos].'+'.$key;  
     }  
       
     if ($pos>0) {  
 # $r->print('<br>pos1='.$pos);  
 #        @list = sort OrderedSort (@list);  
  @list = sort NumericSort (@list);  
     } else {      } else {
         @list = sort (@list);          $r->print('<br>');
     }      }
     my $cIdx=0;  
   
     if ( $pos == 0 ) {      return;
  foreach my $sequence (split(':', $cache->{'orderedSequences'})) {  
     if($cache->{'ProblemStatisticsMaps'} ne 'All Maps'  &&  
        $cache->{'ProblemStatisticsMaps'} ne $cache->{$sequence.':title'}) {  
  next;  
     }  
     if ($cIdx==$p_count) {  
  return \%TempCache;  
     }  
     &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              $cache->{$sequence.':source'},  
                                              $cache->{$sequence.':title'},   
                                              $headings,$r);  
   
     my ($tar)=split(/\&/,$list[$cIdx]);  
     $tar=~s/\+//eg;  
     my ($SqOrd)=split(/\@/,$tar);  
     $sequence+=100;  
     while ($SqOrd==$sequence && $cIdx<$p_count) {  
  my($Pre, $Post) = split(/\+/,$list[$cIdx]);   
  &TableRow($cache,$Post,$cIdx,$cIdx,$r,$color,\%TempCache);  
  $cIdx++;  
  my ($tar)=split(/\&/,$list[$cIdx]);  
  $tar=~s/\+//eg;  
  ($SqOrd)=split(/\@/,$tar);  
     }  
     &CloseTable($cache,$r);  
  }  
     }  
     else {  
         &CreateProblemStatisticsTableHeading($cache->{'DisplayFormat'},   
                                              'Sorted by: ',  
      $headings->{$pos-1},  
                                              $headings,$r);  
  for ( my $nIndex = 0; $nIndex < $p_count; $nIndex++ ) {  
     my($Pre, $Post) = split(/\+/,$list[$nIndex]);  
     &TableRow($cache,$Post,$nIndex,$nIndex,$r,$color,\%TempCache);  
  }   
  &CloseTable($cache,$r);  
     }  
   
     return \%TempCache;  
 }  }
   
   
 sub TableRow {  sub TableRow {
     my ($cache,$Str,$Idx,$RealIdx,$r,$color,$GraphDat)=@_;      my ($displayFormat,$Str,$RealIdx,$r,$color)=@_;
     my($PrOrd,$Temp,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,      my($ref,$title,$source,$StdNo,$TotalTries,$MxTries,$Avg,$YES,$Override,
        $Wrng,$DoD,$SD,$Sk,$_D1,$_D2,$DiscNo,$Prob)=split(/\&/,$Str);         $Wrng,$DoD,$SD,$Sk,$_D1,$_D2)=split(/\&/,$Str);
     my $Ptr;      my $Ptr;
     if($cache->{'DisplayFormat'} eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
         my ($ResId,$Dummy)=split(/\*/,$Prob);          $Ptr='"'.$RealIdx.'",'."\n".
         $Ptr="\n".'<br>'.               '"'.$title.'",'."\n".
              "\n".'"'.($RealIdx+1).'",'.               '"'.$source.'",'."\n".
              "\n".'"'.$cache->{$ResId.':title'}.$Dummy.'",'.               '"'.$StdNo.'",'."\n".
              "\n".'"'.$cache->{$ResId.':source'}.'",'.               '"'.$TotalTries.'",'."\n".
              "\n".'"'.$StdNo.'",'.               '"'.$MxTries.'",'."\n".
              "\n".'"'.$TotalTries.'",'.               '"'.$Avg.'",'."\n".
              "\n".'"'.$MxTries.'",'.               '"'.$YES.'",'."\n".
              "\n".'"'.$Avg.'",'.               '"'.$Override.'",'."\n".
              "\n".'"'.$YES.'",'.               '"'.$Wrng.'",'."\n".
              "\n".'"'.$Override.'",'.               '"'.$DoD.'",'."\n".
              "\n".'"'.$Wrng.'",'.               '"'.$SD.'",'."\n".
              "\n".'"'.$DoD.'",'.               '"'.$Sk.'",'."\n".
              "\n".'"'.$SD.'",'.               '"'.$_D1.'",'."\n".
              "\n".'"'.$Sk.'",'.               '"'.$_D2.'"'."\n".
              "\n".'"'.$_D1.'",'.               "<br>\n";
      "\n".'"'.$_D2.'"'.  
      "\n".'"'.$DiscNo.'"';  
   
         $r->print("\n".$Ptr);          $r->print("\n".$Ptr);
     } else {      } else {
         $Ptr="\n".'<tr>'.          $Ptr='<tr>'."\n".
              "\n".'<td>'.($RealIdx+1).'</td>'.               '<td bgcolor="#ffffe6">'.$RealIdx.'</td>'."\n".
              "\n".'<td>'.$Temp.'</td>'.               '<td bgcolor="#ffffe6">'.$ref.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'> '.$StdNo.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'>'.$TotalTries.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'.               '<td bgcolor='.$color->{"yellow"}.'>'.$MxTries.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'>'.$Avg.'</td>'.               '<td bgcolor='.$color->{"gb"}.'>'.$Avg.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'> '.$YES.'</td>'.               '<td bgcolor='.$color->{"gb"}.'> '.$YES.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"gb"}.'> '.$Override.'</td>'.               '<td bgcolor='.$color->{"gb"}.'> '.$Override.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"red"}.'> '.$Wrng.'</td>'.               '<td bgcolor='.$color->{"red"}.'> '.$Wrng.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"red"}.'> '.$DoD.'</td>'.               '<td bgcolor='.$color->{"red"}.'> '.$DoD.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"green"}.'> '.$SD.'</td>'.               '<td bgcolor='.$color->{"green"}.'> '.$SD.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"green"}.'> '.$Sk.'</td>'.               '<td bgcolor='.$color->{"green"}.'> '.$Sk.'</td>'."\n".
              "\n".'<td bgcolor='.$color->{"purple"}.'> '.$_D1.'</td>'.               '<td bgcolor='.$color->{"purple"}.'> '.$_D1.'</td>'."\n".
      "\n".'<td bgcolor='.$color->{"purple"}.'> '.$_D2.'</td>'.       '<td bgcolor='.$color->{"purple"}.'> '.$_D2.'</td>'."\n";
              "\n".'<td bgcolor='.$color->{"yellow"}.'> '.$DiscNo.'</td>';          $r->print($Ptr.'</tr>'."\n");
         $r->print("\n".$Ptr.'</tr>' );  
     }      }
     $GraphDat->{'GraphGif:'.$RealIdx}=$DoD.':'.$Wrng;  
 }  
   
       return;
   }
   
 # For loading the colored table for display or un-colored for print  # For loading the colored table for display or un-colored for print
 sub setbgcolor {  sub setbgcolor {
Line 748  sub setbgcolor { Line 468  sub setbgcolor {
 }  }
   
 sub ProblemStatisticsButtons {  sub ProblemStatisticsButtons {
     my ($displayFormat)=@_;      my ($displayFormat, $displayLegend, $sortProblems)=@_;
   
     my $Ptr = '<tr><td></td><td align="left">';      my $Ptr = '<tr><td></td><td align="left">';
     $Ptr .= '<input type="submit" name="DoDiffGraph" ';      $Ptr .= '<input type="submit" name="DoDiffGraph" ';
     $Ptr .= 'value="DoDiff Graph" />'."\n";      $Ptr .= 'value="Plot Degree of Difficulty" />'."\n";
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '</td><td align="left">';
     $Ptr .= '<input type="submit" name="PercentWrongGraph" ';      $Ptr .= '<input type="submit" name="PercentWrongGraph" ';
     $Ptr .= 'value="%Wrong Graph" />'."\n";      $Ptr .= 'value="Plot Percent Wrong" />'."\n";
     $Ptr .= '&nbsp;&nbsp;&nbsp;';      $Ptr .= '</td></tr><tr><td></td><td>'."\n";
       $Ptr .= '<input type="submit" name="SortProblems" ';
       if($sortProblems eq 'Sort All Problems') {
           $Ptr .= 'value="Sort Within Sequence" />'."\n";
       } else {
           $Ptr .= 'value="Sort All Problems" />'."\n";
       }
       $Ptr .= '</td><td align="left">';
       $Ptr .= '<input type="submit" name="DisplayLegend" ';
       if($displayLegend eq 'Show Legend') {
           $Ptr .= 'value="Hide Legend" />'."\n";
       } else {
           $Ptr .= 'value="Show Legend" />'."\n";
       }
       $Ptr .= '</td><td align="left">';
     $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';      $Ptr .= '<input type="submit" name="DisplayCSVFormat" ';
     if($displayFormat eq 'Display CSV Format') {      if($displayFormat eq 'Display CSV Format') {
         $Ptr .= 'value="Display Table Format" />'."\n";          $Ptr .= 'value="Display Table Format" />'."\n";
Line 773  sub ProblemStatisticsLegend { Line 507  sub ProblemStatisticsLegend {
     $Ptr = '<table border="0">';      $Ptr = '<table border="0">';
     $Ptr .= '<tr><td>';      $Ptr .= '<tr><td>';
     $Ptr .= '<b>#Stdnts</b></td>';      $Ptr .= '<b>#Stdnts</b></td>';
     $Ptr .= '<td>Total Number of Students opened the problem.';      $Ptr .= '<td>Total number of students attempted the problem.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Tries</b></td>';      $Ptr .= '<b>Tries</b></td>';
     $Ptr .= '<td>Total Number of Tries for solving the problem.';      $Ptr .= '<td>Total number of tries for solving the problem.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Mod</b></td>';      $Ptr .= '<b>Mod</b></td>';
     $Ptr .= '<td>Maximunm Number of Tries for solving the problem.';      $Ptr .= '<td>Largest number of tries for solving the problem by a student.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>Mean</b></td>';      $Ptr .= '<b>Mean</b></td>';
     $Ptr .= '<td>Average Number of the tries. [ Tries / #Stdnts ]';      $Ptr .= '<td>Average number of tries. [ Tries / #Stdnts ]';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>#YES</b></td>';      $Ptr .= '<b>#YES</b></td>';
     $Ptr .= '<td>Number of students solved the problem correctly.';      $Ptr .= '<td>Number of students solved the problem correctly.';
Line 790  sub ProblemStatisticsLegend { Line 524  sub ProblemStatisticsLegend {
     $Ptr .= '<b>#yes</b></td>';      $Ptr .= '<b>#yes</b></td>';
     $Ptr .= '<td>Number of students solved the problem by override.';      $Ptr .= '<td>Number of students solved the problem by override.';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>%Wrng</b></td>';      $Ptr .= '<b>%Wrong</b></td>';
     $Ptr .= '<td>Percentage of students tried to solve the problem ';      $Ptr .= '<td>Percentage of students who tried to solve the problem ';
     $Ptr .= 'but still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]';      $Ptr .= 'but is still incorrect. [ 100*((#Stdnts-(#YES+#yes))/#Stdnts) ]';
     $Ptr .= '</td></tr><tr><td>';      $Ptr .= '</td></tr><tr><td>';
     $Ptr .= '<b>DoDiff</b></td>';      $Ptr .= '<b>DoDiff</b></td>';
     $Ptr .= '<td>Degree of Difficulty of the problem.  ';      $Ptr .= '<td>Degree of Difficulty of the problem.  ';
Line 810  sub ProblemStatisticsLegend { Line 544  sub ProblemStatisticsLegend {
     $Ptr .= '<b>Dis.F.</b></td>';      $Ptr .= '<b>Dis.F.</b></td>';
     $Ptr .= '<td>Discrimination Factor: A Standard for evaluating the ';      $Ptr .= '<td>Discrimination Factor: A Standard for evaluating the ';
     $Ptr .= 'problem according to a Criterion<br>';      $Ptr .= 'problem according to a Criterion<br>';
     $Ptr .= '<b>[Applied Criterion in %27 Upper Students - ';      $Ptr .= '<b>[Criterion to group students into %27 Upper Students - ';
     $Ptr .= 'Applied the same Criterion in %27 Lower Students]</b><br>';      $Ptr .= 'and %27 Lower Students]</b><br>';
     $Ptr .= '<b>1st Criterion</b> for Sorting the Students: ';      $Ptr .= '<b>1st Criterion</b> for Sorting the Students: ';
     $Ptr .= '<b>Sum of Partial Credit Awarded / Total Number of Tries</b><br>';      $Ptr .= '<b>Sum of Partial Credit Awarded / Total Number of Tries</b><br>';
     $Ptr .= '<b>2nd Criterion</b> for Sorting the Students: ';      $Ptr .= '<b>2nd Criterion</b> for Sorting the Students: ';
Line 824  sub ProblemStatisticsLegend { Line 558  sub ProblemStatisticsLegend {
     return $Ptr;      return $Ptr;
 }  }
   
 #------- Processing upperlist and lowerlist according to each problem  sub ExtractStudentData {
 sub ProcessDiscriminant {      my ($cache, $students)=@_;
     my ($List,$r) = @_;  
     my @sortedList = sort (@$List);      my @problemList=();
     my $Count = scalar @sortedList;      my %problemData;
     my $Problem;      foreach my $sequence (split(':', $cache->{'orderedSequences'})) {
     my @Dis;          foreach my $problemID (split(':', $cache->{$sequence.':problems'})) {
     my $Slvd=0;              foreach my $part (split(/\:/,$cache->{$sequence.':'.
     my $tmp;                                                    $problemID.
     my $Sum1=0;                                                    ':parts'})) {
     my $Sum2=0;                  my $id = $sequence.':'.$problemID.':'.$part;
     my $nIndex=0;                  push(@problemList, $id);
     my $nStudent=0;                  my $totalTries = 0;
     my %Proc=undef;                  my $totalAwarded = 0;
     while ($nIndex<$Count) {                  my $correct = 0;
 #        $r->print("<br> $nIndex) $sortedList[$nIndex]");                  my $correctByOverride = 0;
  ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);                  my $studentCount = 0;
  @Dis=split(/\+/,$tmp);                  my $maxTries = 0;
  my $Temp = $Problem;                  my $totalFirst = 0;
  do {                  my @studentTries=();
     $nIndex++;                  foreach(@$students) {
     $nStudent++;                      my $code = $cache->{"$_:$problemID:$part:code"};
     $Sum1 += $Dis[0];  
     $Sum2 += $Dis[1];                      if(defined($cache->{$_.':error'}) || $code eq ' ' ||
     ($Problem,$tmp)=split(/\=/,$sortedList[$nIndex]);                         $cache->{"$_:$problemID:NoVersion"} eq 'true') {
     @Dis=split(/\+/,$tmp);                          next;
  } while ( $Problem eq $Temp && $nIndex < $Count );                      }
  $Proc{$Temp}=($Sum1/$nStudent).':'.($Sum2/$nStudent);  
 #        $r->print("<br> $nIndex) $Temp --> ($nStudent) $Proc{$Temp}");                      $studentCount++;
  $Sum1=0;                      my $tries =  $cache->{"$_:$problemID:$part:tries"};
  $Sum2=0;                      if($maxTries < $tries) {
  $nStudent=0;                          $maxTries = $tries;
     }                      }
                       $totalTries += $tries;
     return %Proc;                      push(@studentTries, $tries);
 }  
                       my $awarded = $cache->{"$_:$problemID:$part:awarded"};
 #------- Creating Discimination factor                         $totalAwarded += $awarded;
 sub Discriminant {  
     my ($discriminant,$r)=@_;                      if($code eq '*') {
 #$Apache::lonxml::debug=1;                          $correct++;
 #&Apache::lonhomework::showhash(%$discriminant);                          if($tries == 1) {
 #$Apache::lonxml::debug=0;                              $totalFirst++;
     my @discriminantKeys=keys(%$discriminant);                          }
     my $Count = scalar @discriminantKeys;                      } elsif($code eq '+') {
                           $correctByOverride++;
     my $UpCnt = int(0.27*$Count);                      }
     my $low=0;  
     my $up=$Count-$UpCnt;  
     my @UpList=();  
     my @LowList=();  
   
     $Count=0;  
     foreach my $key (sort(@discriminantKeys)) {   
  $Count++;      
  if($low < $UpCnt || $Count > $up) {  
             $low++;  
             my $str=$discriminant->{$key};  
             foreach(split(/\&/,$str)){  
                 if($_) {  
                     if($low<$UpCnt) { push(@LowList,$_); }  
                     else            { push(@UpList,$_);  }  
                 }                  }
   
                   my $studentTriesJoined = join(':::', @studentTries);
                   $problemData{$id.':sequenceTitle'} =
                       $cache->{$sequence.':title'};
                   $problemData{$id.':studentCount'} = $studentCount;
                   $problemData{$id.':totalTries'} = $totalTries;
                   $problemData{$id.':studentTries'} = $studentTriesJoined;
                   $problemData{$id.':totalAwarded'} = $totalAwarded;
                   $problemData{$id.':correct'} = $correct;
                   $problemData{$id.':correctByOverride'} = $correctByOverride;
                   $problemData{$id.':wrong'} = $studentCount - 
                                                ($correct + $correctByOverride);
                   $problemData{$id.':maxTries'} = $maxTries;
                   $problemData{$id.':totalFirst'} = $totalFirst;
             }              }
         }          }
     }      }
     my %DisUp =  &ProcessDiscriminant(\@UpList,$r);  
     my %DisLow = &ProcessDiscriminant(\@LowList,$r);  
   
     return (\%DisUp, \%DisLow);      my @upperStudents1=();
 }         my @lowerStudents1=();
       my @upperStudents2=();
       my @lowerStudents2=();
       my $upperCount = int(0.27*scalar(@$students));
       # Discriminant Factor criterion 1
       my $sortedStudents = &SortDivideByTries($students,$cache,':totalAwarded');
   
       for(my $i=0; $i<$upperCount; $i++) {
           push(@lowerStudents1, $sortedStudents->[$i]);
           push(@upperStudents1, $sortedStudents->[(scalar(@$students)-$i-1)]);
       }
   
       $problemData{'studentsUpperListCriterion1'}=join(':::', @upperStudents1);
       $problemData{'studentsLowerListCriterion1'}=join(':::', @lowerStudents1);
   
       # Discriminant Factor criterion 2
       $sortedStudents = &SortDivideByTries($students, $cache, ':totalSolved');
   
       for(my $i=0; $i<$upperCount; $i++) {
           push(@lowerStudents2, $sortedStudents->[$i]);
           push(@upperStudents2, $sortedStudents->[(scalar(@$students)-$i-1)]);
       }
       $problemData{'studentsUpperListCriterion2'}=join(':::', @upperStudents2);
       $problemData{'studentsLowerListCriterion2'}=join(':::', @lowerStudents2);
   
       $problemData{'problemList'} = join(':::', @problemList);
   
       return \%problemData;
   }
   
   sub SortDivideByTries {
       my ($toSort, $data, $sortOn)=@_;
       my @orderedData = sort { ($data->{$a.':totalTries'}) ?
                                ($data->{$a.$sortOn}/$data->{$a.':totalTries'}):0
                                <=>
                                ($data->{$b.':totalTries'}) ?
                                ($data->{$b.$sortOn}/$data->{$b.':totalTries'}):0
                              } @$toSort;
   
       return \@orderedData;
   }
   
   sub SortProblems {
       my ($problemData,$sortBy,$sortProblems,$ascend)=@_;
   
       my @problems = split(':::', $problemData->{'problemList'});
       if($sortBy eq "Homework Sets Order") {
           return \@problems;
       }
   
       my $data;
   
       if   ($sortBy eq "#Stdnts") { $data = ':studentCount'; }
       elsif($sortBy eq "Tries")   { $data = ':totalTries'; }
       elsif($sortBy eq "Mod")     { $data = ':maxTries'; }
       elsif($sortBy eq "Mean")    { $data = ':mean'; }
       elsif($sortBy eq "#YES")    { $data = ':correct'; }
       elsif($sortBy eq "#yes")    { $data = ':correctByOverride'; }
       elsif($sortBy eq "%Wrng")   { $data = ':percentWrong'; }
       elsif($sortBy eq "DoDiff")  { $data = ':degreeOfDifficulty'; }
       elsif($sortBy eq "S.D.")    { $data = ':standardDeviation'; }
       elsif($sortBy eq "Skew.")   { $data = ':skewness'; }
       elsif($sortBy eq "D.F.1st") { $data = ':discriminationFactor1'; }
       elsif($sortBy eq "D.F.2nd") { $data = ':discriminationFactor2'; }
       else                        { return \@problems; }
   
       my %temp;
       my @sequenceList=();
       foreach(@problems) {
           my ($sequence) = split(':', $_);
   
           my @array=();
           my $tempArray;
           if(defined($temp{$sequence})) {
               $tempArray = $temp{$sequence};
           } else {
               push(@sequenceList, $sequence);
               $tempArray = \@array;
               $temp{$sequence} = $tempArray;
           }
   
 #---- END Problem Statistics Web Page ----------------------------------------          push(@$tempArray, $_);
       }
   
 #---- Problem Statistics Graph Web Page --------------------------------------      my @orderedProblems;
       if($sortProblems eq "Sort Within Sequence") {
           foreach(keys(%temp)) {
               my $tempArray = $temp{$_};
               my @tempOrder =
                   sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }
               @$tempArray;
               $temp{$_} = \@tempOrder;
           }
           foreach(@sequenceList) {
               my $tempArray = $temp{$_};
               @orderedProblems = (@orderedProblems, @$tempArray);
           }
       } else {
           @orderedProblems = 
               sort { $problemData->{$a.$data} <=> $problemData->{$b.$data} }
           @problems;
       }
   
 # ------------------------------------------- Prepare data for Graphical chart      if($ascend eq 'Descending') {
           @orderedProblems = reverse(@orderedProblems);
       }
   
 sub BuildDiffGraph {      return \@orderedProblems;
     my ($r)=@_;  }
   
     my $graphData = &GetGraphData('DiffGraph', $r);  sub CalculateStatistics {
     $r->print('<IMG src="/cgi-bin/graph.gif?'.$graphData.'" />');      my ($data, $cache, $courseID)=@_;
   
     return;      my @problems = split(':::', $data->{'problemList'});
 }      foreach(@problems) {
           # Mean
           my $mean = ($data->{$_.':studentCount'}) ? 
               ($data->{$_.':totalTries'} / $data->{$_.':studentCount'}) : 0;
           $data->{$_.':mean'} = sprintf("%.2f", $mean);
   
 sub BuildWrongGraph {          # %Wrong
     my ($r)=@_;          my $pw = ($data->{$_.':studentCount'}) ?
               (($data->{$_.':wrong'} / $data->{$_.':studentCount'}) * 100.0) : 
               100.0;
           $data->{$_.':percentWrong'} = sprintf("%.1f", $pw);
   
     my $graphData = &GetGraphData('WrongGraph', $r);          # Degree of Difficulty
     $r->print('<IMG src="/cgi-bin/graph.gif?'.$graphData.'" />');          my $dod = ($data->{$_.':totalTries'}) ?
               (1 - (($data->{$_.':correct'} + $data->{$_.':correctByOverride'}) /
                     $data->{$_.':totalTries'})) : 0;
   
     return;          $data->{$_.':degreeOfDifficulty'} = sprintf("%.2f", $dod);
 }  
   
           # Factor in mean
           my @studentTries = split(':::', $data->{$_.':studentTries'});
           foreach(my $index=0; $index < scalar(@studentTries); $index++) {
               $studentTries[$index] -= $mean;
           }
           my $sumSquared = 0;
           my $sumCubed = 0;
           foreach(@studentTries) {
               my $squared = ($_ * $_);
               my $cubed = ($squared * $_);
               $sumSquared += $squared;
               $sumCubed += $cubed;
           }
   
 sub GetGraphData {          # Standard deviation
     my ($ylab,$r,$cache)=@_;          my $standardDeviation;
     my $Col;          if($data->{$_.':studentCount'} - 1 > 0) {
     my $data='';              $standardDeviation = (sqrt($sumSquared)) / 
     my $count = 0;                                   ($data->{$_.':studentCount'} - 1);
     my $Max = 0;          } else {
     my $cid=$ENV{'request.course.id'};              $standardDeviation =  0.0;
           }
     if ( $ylab eq 'DoDiff Graph' ) {          $data->{$_.':standardDeviation'} = sprintf("%.1f", $standardDeviation);
  $ylab = 'Degree-of-Difficulty';  
  $Col = 0;  
     }  
     else {  
  $ylab = 'Wrong-Percentage';  
  $Col = 1;  
     }  
   
     my $p_count = $cache->{'ProblemCount'};  
   
     for ( my $k=0; $k<$p_count;$k++) {  
         my $key=$cache->{'CacheTable:'.$k};  
         my @Temp=split(/\&/,$key);  
        # $list[$k]=$key;  
     }  
   
   #  foreach (sort NumericSort keys %GraphDat) {   
  # my @Temp=split(/\:/,$GraphDat{$_});  
         #        my $inf = $Temp[$Col];   
  # if ( $Max < $inf ) {$Max = $inf;}  
  # $data .= $inf.',';  
  # $count++;  
   # }  
     if ( $Max > 1 ) {   
  $Max += (10 - $Max % 10);  
       $Max = int($Max);  
     } else { $Max = 1; }  
   
     #untie(%GraphDat);          # Skewness
           my $skew;
           if($standardDeviation > 0.0999 && $data->{$_.':studentCount'} > 0) {
               $skew = (((sqrt($sumSquared)) / $data->{$_.':studentCount'}) / 
                        ($standardDeviation * 
                         $standardDeviation * 
                         $standardDeviation));
           } else {
               $skew = 0.0;
           }
   
     my $Course = $ENV{'course.'.$cid.'.description'};          $data->{$_.':skewness'} = sprintf("%.1f", $skew);
     $Course =~ s/\ /"_"/eg;  
     my $GData=$Course.'&'.'Problems'.'&'.$ylab.'&'.          # Discrimination Factor 1
       $Max.'&'.$count.'&'.$data;          my ($sequence, $problem, $part) = split(':', $_);
   
           my @upper1 = split(':::', $data->{'studentsUpperListCriterion1'});
           my @lower1 = split(':::', $data->{'studentsLowerListCriterion1'});
   
           my $upper1Sum=0;
           foreach my $name (@upper1) {
               $upper1Sum += $cache->{"$name:$problem:$part:awarded"};
           }
           $upper1Sum = (scalar(@upper1)) ? ($upper1Sum/(scalar(@upper1))) : 0;
   
           my $lower1Sum=0;
           foreach my $name (@lower1) {
               $lower1Sum += $cache->{"$name:$problem:$part:awarded"};
           }
           $lower1Sum = (scalar(@lower1)) ? ($lower1Sum/(scalar(@lower1))) : 0;
   
           my $df1 = $upper1Sum - $lower1Sum;
           $data->{$_.':discriminationFactor1'} = sprintf("%.2f", $df1);
   
           # Discrimination Factor 2
           my @upper2 = split(':::', $data->{'studentsUpperListCriterion2'});
           my @lower2 = split(':::', $data->{'studentsLowerListCriterion2'});
   
           my $upper2Sum=0;
           foreach my $name (@upper2) {
               $upper2Sum += $cache->{"$name:$problem:$part:awarded"};
           }
           $upper2Sum = (scalar(@upper2)) ? ($upper2Sum/(scalar(@upper2))) : 0;
   
           my $lower2Sum=0;
           foreach my $name (@lower2) {
               $lower2Sum += $cache->{"$name:$problem:$part:awarded"};
           }
           $lower2Sum = (scalar(@lower2)) ? ($lower2Sum/(scalar(@lower2))) : 0;
   
           my $df2 = $upper2Sum - $lower2Sum;
           $data->{$_.':discriminationFactor2'} = sprintf("%.2f", $df2);
   
           my %storestats;
           my $Average = ($data->{$_.':studentCount'}) ? 
               $data->{$_.':totalTries'}/$data->{$_.':studentCount'} : 0;
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___timestamp'}=time;
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___stdno'}=$data->{$_.':studentCount'};
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___avetries'}=$Average;
           $storestats{$courseID.'___'.$cache->{$sequence.':source'}.
                           '___difficulty'}=$data->{$_.':degreeOfDifficulty'};
           $cache->{$sequence.':source'} =~ /^(\w+)\/(\w+)/;
           if($data->{$_.':studentCount'}) { 
               &Apache::lonnet::put('nohist_resevaldata',\%storestats,$1,$2);
           }
       }
   
       return;
 }  }
   
   #---- END Problem Statistics Web Page ----------------------------------------
   
 1;  1;
 __END__  __END__

Removed from v.1.14  
changed lines
  Added in v.1.37


FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>