[BACK]Return to lonstudentsubmissions.pm CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / interface / statistics

Diff for /loncom/interface/statistics/lonstudentsubmissions.pm between versions 1.21 and 1.54.10.4

version 1.21, 2004/09/22 15:38:49 version 1.54.10.4, 2011/11/18 22:35:33
Line 27 Line 27
 package Apache::lonstudentsubmissions;  package Apache::lonstudentsubmissions;
   
 use strict;  use strict;
 use Apache::lonnet();  use Apache::lonnet;
 use Apache::loncommon();  use Apache::loncommon();
 use Apache::lonhtmlcommon();  use Apache::lonhtmlcommon();
 use Apache::loncoursedata();  use Apache::loncoursedata();
Line 37  use Apache::lonstathelpers; Line 37  use Apache::lonstathelpers;
 use HTML::Entities();  use HTML::Entities();
 use Time::Local();  use Time::Local();
 use Spreadsheet::WriteExcel();  use Spreadsheet::WriteExcel();
   use Crypt::PasswdMD5;
   use lib '/home/httpd/lib/perl/';
   use LONCAPA;
     
   
 my @SubmitButtons = ({ name => 'SelectAnother',  my @SubmitButtons = ({ name => 'SelectAnother',
                        text => 'Choose a different Problem' },                         text => 'Choose a different Problem' },
Line 63  sub BuildStudentSubmissionsPage { Line 67  sub BuildStudentSubmissionsPage {
     my @Students = @Apache::lonstatistics::Students;      my @Students = @Apache::lonstatistics::Students;
     #      #
     if (@Students < 1) {      if (@Students < 1) {
         $r->print('<h2>There are no students in the sections selected</h2>');          $r->print('<div class="LC_warning">'
                    .&mt('There are no students in the sections selected.')
                    .'</div>');
     }      }
     #      #
     my @CacheButtonHTML =       my @CacheButtonHTML = 
         &Apache::lonstathelpers::manage_caches($r,'Statistics','stats_status',          &Apache::lonstathelpers::manage_caches($r,'Statistics','stats_status',
                                    '<h3>'.&mt('Loading student data').'</h3>');                                     '<div class="LC_info">'.&mt('Loading student data...').'</div>');
     $r->rflush();      $r->rflush();
     #      #
     if (exists($ENV{'form.problemchoice'}) &&       if ((exists($env{'form.problemchoice'}) || (exists($env{'form.allproblems'}))) && 
         ! exists($ENV{'form.SelectAnother'})) {          ! exists($env{'form.SelectAnother'})) {
         foreach my $button (@SubmitButtons) {          foreach my $button (@SubmitButtons) {
             if ($button->{'name'} eq 'break') {              if ($button->{'name'} eq 'break') {
                 $r->print("<br />\n");                  $r->print("<br />\n");
Line 89  sub BuildStudentSubmissionsPage { Line 95  sub BuildStudentSubmissionsPage {
         $r->print('<hr />'.$/);          $r->print('<hr />'.$/);
         $r->rflush();          $r->rflush();
         #          #
   
           #
           # Get resource objects
           my $navmap = Apache::lonnavmaps::navmap->new();
   
         # Determine which problems we are to analyze          # Determine which problems we are to analyze
         my @Symbs =           my @Symbs = 
             &Apache::lonstathelpers::get_selected_symbs('problemchoice');              &Apache::lonstathelpers::get_selected_symbs('problemchoice');
           if (defined($navmap)) {
               if ($env{'form.allproblems'}) {
                   my $iterator = $navmap->getIterator(undef, undef, undef, 1);
                   while (my $curRes = $iterator->next()) {
                       next if (! ref($curRes));
                       if ($curRes->is_problem) {
                           my $symb = $curRes->symb;
                           unless(grep(/^\Q$symb\E$/,@Symbs)) {
                               push(@Symbs,$symb);
                           }
                       }
                   }
               }
           }
         foreach my $selected (@Symbs) {          foreach my $selected (@Symbs) {
             $r->print('<input type="hidden" name="problemchoice" value="'.              $r->print('<input type="hidden" name="problemchoice" value="'.
                       $selected.'" />'.$/);                        $selected.'" />'.$/);
         }          }
         #  
         # Get resource objects  
         my $navmap = Apache::lonnavmaps::navmap->new();  
         if (!defined($navmap)) {          if (!defined($navmap)) {
             $r->print('<h1>'.&mt("Internal error").'</h1>');              $r->print('<div class="LC_error">'.&mt("Internal error").'</div>');
             return;              return;
         }          }
         my %already_seen;          my %already_seen;
         my @Problems;          my (@Problems,$show_named);
           unless (&Apache::loncommon::needs_gci_custom()) {
               unless ($env{'form.anonymized'} eq 'true') {
                   $show_named = 1;
               }
           }
         foreach my $symb (@Symbs) {          foreach my $symb (@Symbs) {
             my $resource = $navmap->getBySymb($symb);              my $resource = $navmap->getBySymb($symb);
             push(@Problems,$resource);              push(@Problems,$resource);
         }          }
         #          # If these are to be anonymized, do a random shuffle of @Students. 
           unless ($show_named) {
               &array_shuffle(\@Students);
           }
           my $threshold = $env{'course.'.$env{'request.course.id'}.'.internal.anonsurvey_threshold'};
           if ($threshold eq '') {
               my %domconfig =
                   &Apache::lonnet::get_dom('configuration',['coursedefaults'],
                                           $env{'course.'.$env{'request.course.id'}.'.domain'});
               if (ref($domconfig{'coursedefaults'}) eq 'HASH') {
                   $threshold = $domconfig{'coursedefaults'}{'anonsurvey_threshold'};
                   if ($threshold eq '') {
                       $threshold = 10;
                   }
               } else {
                   $threshold = 10;
               }
           }
           unless (&Apache::loncommon::needs_gci_custom()) {
               $threshold = 0;
           }
           # 
           $r->print('<h4>'.
                     &Apache::lonstatistics::section_and_enrollment_description().
                     '</h4>');
         if (! scalar(@Problems) || ! defined($Problems[0])) {          if (! scalar(@Problems) || ! defined($Problems[0])) {
             $r->print('resource is undefined');              $r->print('resource is undefined');
           } elsif (!$show_named && @Students < $threshold) {
               $r->print(&mt('The number of students matching the selection criteria is too few for display of submission data for anonymous surveys.').'<br />'.&mt('There must be at least [quant,_1,student].',$threshold).' '.&mt('Contact the LON-CAPA [_1]Helpdesk[_2] if you need the threshold to be changed for this course.','<a href="/adm/helpdesk?origurl=%2fadm%2fstatistics>','</a>'));
         } else {          } else {
             if (scalar(@Problems) == 1) {              if (scalar(@Problems) == 1) {
                 my $resource = $Problems[0];                  my $resource = $Problems[0];
                 $r->print('<h1>'.$resource->title.'</h1>');                  $r->print('<h1>'.$resource->title.'</h1>');
                 $r->print('<h3>'.$resource->src.'</h3>');                  $r->print('<h3>'.$resource->src.'</h3>');
                 if ($ENV{'form.renderprob'} eq 'true') {                  if ($env{'form.renderprob'} eq 'true') {
                     $r->print(                      $r->print(&Apache::lonstathelpers::render_resource($resource));
                               &Apache::lonstathelpers::render_resource({src => $resource->src})  
                               );  
                     $r->rflush();                      $r->rflush();
                 }                  }
             }              }
             if ($ENV{'form.output'} eq 'excel') {              if ($env{'form.output'} eq 'excel') {
                 &prepare_excel_output($r,\@Problems,\@Students);                  &prepare_excel_output($r,\@Problems,\@Students,$show_named);
               } elsif ($env{'form.output'} eq 'csv') {
                   &prepare_csv_output($r,\@Problems,\@Students,$show_named);
             } else {              } else {
                 &prepare_html_output($r,\@Problems,\@Students);                  &prepare_html_output($r,\@Problems,\@Students,$show_named);
             }              }
         }          }
         $r->print('<hr />');          $r->print('<hr />');
Line 139  sub BuildStudentSubmissionsPage { Line 192  sub BuildStudentSubmissionsPage {
                   &mt('Computing correct answers greatly increasese the amount of time required to prepare a report.').                    &mt('Computing correct answers greatly increasese the amount of time required to prepare a report.').
                   '</p>');                    '</p>');
         $r->print('<p>'.          $r->print('<p>'.
                   &mt('please select problems and use the <b>Prepare Report</b> button to continue.').                    &mt('Please select problems and use the [_1]Prepare Report[_2] button to continue.','<b>','</b>').
                   '</p>');                    '</p>');
         $r->print(&Apache::lonstathelpers::MultipleProblemSelector          $r->print(&Apache::lonstathelpers::MultipleProblemSelector
                   (undef,'problemchoice','Statistics'));                    (undef,'problemchoice','Statistics'));
     }      }
 }  }
   
   sub array_shuffle {
       my $array = shift;
       return unless (ref($array) eq 'ARRAY');
       my $i = scalar(@$array);
       my $j;
       foreach my $item (@$array) {
           --$i;
           $j = int(rand($i+1));
           next if($i == $j);
           @$array [$i,$j] = @$array[$j,$i];
       }
       return @$array;
   }
   
   ##
   ## get_extra_response_headers
   ##
   
   sub get_extra_response_headers {
       my ($show_named) = @_;
       my @extra_resp_headers;
       if ($env{'form.correctans'} eq 'true') {
           push(@extra_resp_headers,'Correct');
       }
       if ($show_named) { 
           if ($env{'form.prob_status'} eq 'true') {
               push(@extra_resp_headers,'Award Detail'); 
               push(@extra_resp_headers,'Time');
               push(@extra_resp_headers,'Attempt');
               push(@extra_resp_headers,'Awarded');
           }
       }
       return @extra_resp_headers;
   }
   
   ##
   ## get_headers:
   ##     return the proper headers for the given response 
   sub get_headers {
       my ($prob,$partid,$respid,$resptype,$analysis,$output,$purpose,
           @basic_headers) = @_;
       my @headers;
       if ($resptype eq 'essay' && $purpose eq 'display' &&
           ($output eq 'html')) {# || scalar(@{$prob->parts})!=1)) {
           @headers = ();
       } elsif ($resptype =~ /^(option|match|rank)$/) {
           my $prefix = '_';
           if ($purpose eq 'display') {
               $prefix = '';
           }
           my @foils = 
               map { 
                   $prefix.$_; 
               } sort(keys(%{$analysis->{$partid.'.'.$respid}->{'_Foils'}}));
           if (scalar(@basic_headers) && $basic_headers[0] eq 'Correct') {
               @foils = map { ($_ , $_.' Correct') } @foils;
               shift(@basic_headers);  # Get rid of 'Correct'
           }
           @headers = (@foils,@basic_headers);
       } elsif (lc($resptype) eq 'task') {
           @headers = ('Grader','Status',@basic_headers,'Submission');
       } else {
           @headers = ('Submission',@basic_headers);
       }
       return @headers;
   }
   
 #########################################################  #########################################################
 #########################################################  #########################################################
 ##  ##
Line 154  sub BuildStudentSubmissionsPage { Line 274  sub BuildStudentSubmissionsPage {
 #########################################################  #########################################################
 #########################################################  #########################################################
 sub prepare_html_output {  sub prepare_html_output {
     my ($r,$problems,$students) = @_;      my ($r,$problems,$students,$show_named) = @_;
     my $c = $r->connection();      my $c = $r->connection();
       my $salt = '$1$'.$Apache::lonnet::perlvar{'AnonymousSalt'};
     #      #
     # Set a flag for the case when there is just one problem      # Set a flag for the case when there is just one problem
     my $single_response = 0;      my $single_response = 0;
Line 165  sub prepare_html_output { Line 286  sub prepare_html_output {
     }      }
     #      #
     # Compute the number of columns per response      # Compute the number of columns per response
     my @response_headers = ('Submission');      my @extra_resp_headers = &get_extra_response_headers($show_named);
     if ($ENV{'form.correctans'} eq 'true') {  
         push(@response_headers,'Correct');  
     }   
     if ($ENV{'form.prob_status'} eq 'true') {  
         push(@response_headers,'Award Detail');   
         push(@response_headers,'Time');  
         push(@response_headers,'Attempt');  
         push(@response_headers,'Awarded');  
     }  
     my $response_multiplier = scalar(@response_headers);  
     #      #
     # Create the table header      # Create the table header
     my @student_columns = ('username','domain','id');      my @student_columns;
       if ($show_named) {
           @student_columns = @Apache::lonstatistics::SelectedStudentData;
           if (grep(/^all$/,@student_columns)) {
               @student_columns = qw(fullname username domain id section status groups comments);
           }
       } else {
           @student_columns = ('username');
       }
     #      #
     my %headers;      my %headers;
     my $student_column_count = scalar(@student_columns);      my $student_column_count = scalar(@student_columns);
Line 190  sub prepare_html_output { Line 309  sub prepare_html_output {
     # we put the headers into the %headers hash      # we put the headers into the %headers hash
     my $total_col = scalar(@student_columns);      my $total_col = scalar(@student_columns);
     my $nonempty_part_headers = 0;      my $nonempty_part_headers = 0;
       #
       my %problem_analysis;
     foreach my $prob (@$problems) {      foreach my $prob (@$problems) {
           my %analysis = &Apache::lonstathelpers::get_problem_data($prob->src);
           $problem_analysis{$prob->src}=\%analysis;
           #
         my $prob_span = 0;          my $prob_span = 0;
         my $single_part = 0;          my $single_part = 0;
         if (scalar(@{$prob->parts}) == 1) {          if (scalar(@{$prob->parts}) == 1) {
Line 201  sub prepare_html_output { Line 325  sub prepare_html_output {
             my $responses = [$prob->responseIds($partid)];              my $responses = [$prob->responseIds($partid)];
             my $resptypes = [$prob->responseType($partid)];              my $resptypes = [$prob->responseType($partid)];
             for (my $i=0;$i<scalar(@$responses);$i++) {              for (my $i=0;$i<scalar(@$responses);$i++) {
                 if ($resptypes->[$i] eq 'essay') {                  my $respid = $responses->[$i];
                     # do something clever, like shut up.                  my @headers = &get_headers($prob,$partid,$respid,
                 } else {                                             $resptypes->[$i],
                     $total_col += scalar(@response_headers);                                             $problem_analysis{$prob->src},
                                              'html','display',
                                              @extra_resp_headers);
                   if (scalar(@headers)>0) {
                       $total_col += scalar(@headers);
                       $part_span += scalar(@headers);
                     $headers{'response'} .=                      $headers{'response'} .=
                         '<th colspan="'.scalar(@response_headers).'">'.                          '<th colspan="'.scalar(@headers).'">'.
                         &mt('Response [_1]',$responses->[$i]).'</th>';                          &mt('Response [_1]',$responses->[$i]).'</th>';
                     $headers{'student'}.= '<th>'.join('</th><th>',                      $headers{'student'}.= '<th><span class="LC_nobreak">'.
                                                       @response_headers).                                            join('</span></th><th><span class="LC_nobreak">',
                                                           '</th>';                                                        @headers).
                     $part_span += scalar(@response_headers);                                                            '</span></th>';
                 }                  }
             }              }
               if ($part_span == 0) {
                   next;
               }
             if (! $single_part) {              if (! $single_part) {
                 my $tmpname = $partid;                  my $tmpname = $partid;
                 if ($partid =~/^\d+$/) {                  if ($partid =~/^\d+$/) {
                     $tmpname = &mt('Part [_1]',$partid);                      $tmpname = $prob->part_display($partid);
                   }
                   if ($tmpname !~ /^part/) {
                       $tmpname = 'Part '.$tmpname;
                 }                  }
                 $headers{'part'} .= qq{<th colspan="$part_span">$tmpname</th>};                  $headers{'part'} .= qq{<th colspan="$part_span">$tmpname</th>};
                 $nonempty_part_headers = 1;                  $nonempty_part_headers = 1;
             } else {              } else {
                 $headers{'part'} .= qq{<th colspan="$part_span">&nbsp</th>};                  $headers{'part'} .= qq{<th colspan="$part_span">&nbsp;</th>};
             }              }
             $prob_span += $part_span;              $prob_span += $part_span;
         }          }
         my $title = &get_title($prob->title,$prob->src);          my $title = $prob->compTitle;
           unless (&Apache::loncommon::needs_gci_custom()) {
               ($title) = ($prob->src =~ m{/([^/]+)$});
           }
         if ($prob_span > 0) {          if ($prob_span > 0) {
             $headers{'problem'}.= qq{<th colspan="$prob_span">$title</th>};              $headers{'problem'}.= qq{<th colspan="$prob_span">$title</th>};
         } elsif ($single_response) {          } elsif ($single_response) {
Line 262  sub prepare_html_output { Line 400  sub prepare_html_output {
             $count = 0;              $count = 0;
         }          }
         last if ($c->aborted());          last if ($c->aborted());
         foreach my $field (@student_columns) {          if ($show_named) {
             $student_row_data .=               foreach my $field (@student_columns) {
                 '<td valign="top">'.$student->{$field}.'</td>';                  $student_row_data .= '<td valign="top">';
                   # handle comments like in lonstudentassessment.pm
                   if($field eq 'comments') {
                       $student_row_data .= 
                           '<a href="/adm/'.$student->{'domain'}.'/'.
                           $student->{'username'}.'/'.'aboutme#coursecomment">'.&mt('Comments').'</a>';
                   } else {
                       $student_row_data .= $student->{$field};
                   }
                   $student_row_data .= '</td>';
               }
           } else {
               my $anonid = &Crypt::PasswdMD5::unix_md5_crypt($student->{'username'},
                                                              $salt);
               $anonid = substr($anonid,length($salt)+1);
               $student_row_data = '<td valign="top" colspan="'.$student_column_count.'">'.
                                   $anonid.'</td>';
         }          }
         #          #
         # Figure out what it is we need to output for this student          # Figure out what it is we need to output for this student
         my @essays;          my @essays;
         my %problem_data;          my %prob_data;
         my $maxrow;          my $maxrow;
         foreach my $prob (@$problems) {          foreach my $prob (@$problems) {
             my $symb = $prob->symb;              $prob_data{$prob->symb}={};
             $problem_data{$symb}={};  
             foreach my $partid (@{$prob->parts}) {              foreach my $partid (@{$prob->parts}) {
                 my @responses = $prob->responseIds($partid);                  my @responses = $prob->responseIds($partid);
                 my @response_type = $prob->responseType($partid);                  my @response_type = $prob->responseType($partid);
                 for (my $i=0;$i<=$#responses;$i++) {                  for (my $i=0;$i<=$#responses;$i++) {
                     my $respid   = $responses[$i];                      my $respid  = $responses[$i];
                     my $resptype = $response_type[$i];  
                     my $width = scalar(@response_headers);  
                     $problem_data{$symb}->{$partid}->{$respid}={};  
                     my $resp_data = $problem_data{$symb}->{$partid}->{$respid};  
                     $resp_data->{'fake'} = qq{<td colspan="$width">&nbsp</td>};  
                     my $results =                       my $results = 
                         &Apache::loncoursedata::get_response_data_by_student                          &Apache::loncoursedata::get_response_data_by_student
                         ($student,$prob->symb(),$respid);                          ($student,$prob->symb(),$respid);
                       my $resptype = $response_type[$i];
                       my @headers = &get_headers($prob,$partid,$respid,
                                                  $resptype,
                                                  $problem_analysis{$prob->src},
                                                  'html','normal',
                                                  @extra_resp_headers);
                       my $width = scalar(@headers);
                       next if ($width < 1);
                       my $resp_data;
                       $resp_data->{'fake'} = qq{<td colspan="$width">&nbsp;</td>};
                     if (! defined($results)) {                      if (! defined($results)) {
                         $results = [];                          $results = [];
                     }                      }
                     #                      # 
                     if (scalar(@$results) > $maxrow && $resptype ne 'essay') {                      if (scalar(@$results) > $maxrow && $resptype ne 'essay') {
                         $maxrow = scalar(@$results);                          $maxrow = scalar(@$results);
                     }                      }
                     for (my $j=scalar(@$results)-1;$j>=0;$j--) {                      for (my $j=scalar(@$results)-1;$j>=0;$j--) {
                         my $response = $results->[$j];                          if ($env{'form.all_sub'} ne 'true') {
                         if ($ENV{'form.all_sub'} ne 'true') {  
                             next if ($j ne scalar(@$results)-1);                              next if ($j ne scalar(@$results)-1);
                         }                          }
                           my $response = &hashify_response($results->[$j],
                                                            $prob,
                                                            $student,
                                                            $partid,
                                                            $respid);
                         if ($resptype eq 'essay') {                          if ($resptype eq 'essay') {
                             push(@essays,                              push(@essays,
                                  &html_essay_results($student,                                   &html_essay_results(\@headers,
                                                      $prob,$partid,$respid,                                                       $prob,$partid,$respid,
                                                      $response,                                                       $response,
                                                      $single_response).                                                       $single_response).
                                  '</td>');                                   '</td>');
    } elsif (lc($resptype) eq 'task') {
       my $results = 
    &html_task_results(\@headers,
      $prob,$partid,$respid,
      $response,$resptype);
       if ($results) {
    push(@{$resp_data->{'real'}},$results);
       }
                         } else {                          } else {
                             push(@{$resp_data->{'real'}},                              push(@{$resp_data->{'real'}},
                                  &html_results($student,                                   &html_non_essay_results(\@headers,
                                                $prob,$partid,$respid,                                                           $prob,$partid,$respid,
                                                $response,$resptype));                                                           $response,$resptype));
                         }                          }
                     }                       }
                       $prob_data{$prob->symb}->{$partid}->{$respid}=$resp_data;
                 } # end of $i loop                  } # end of $i loop
             } # end of partid loop              } # end of partid loop
         } # end of prob loop          } # end of prob loop
Line 331  sub prepare_html_output { Line 502  sub prepare_html_output {
             my $html;              my $html;
             my $no_data = 1;              my $no_data = 1;
             foreach my $prob (@$problems) {              foreach my $prob (@$problems) {
                 my $symb = $prob->symb;  
                 foreach my $partid (@{$prob->parts}) {                  foreach my $partid (@{$prob->parts}) {
                     my @responses     = $prob->responseIds($partid);                      my @responses     = $prob->responseIds($partid);
                     my @response_type = $prob->responseType($partid);                      my @response_type = $prob->responseType($partid);
                     for (my $i=0;$i<=$#responses;$i++) {                      for (my $i=0;$i<=$#responses;$i++) {
                         my $respid   = $responses[$i];                          my $respid   = $responses[$i];
                         my $resp_data =                           my $resp_data = 
                             $problem_data{$symb}->{$partid}->{$respid};                              $prob_data{$prob->symb}->{$partid}->{$respid};
                         next if ($response_type[$i] eq 'essay');                          next if ($response_type[$i] eq 'essay');
                         if (defined($resp_data->{'real'}->[$rows_output])) {                          if (defined($resp_data->{'real'}->[$rows_output])) {
                             $html .= $resp_data->{'real'}->[$rows_output];                              $html .= $resp_data->{'real'}->[$rows_output];
Line 365  sub prepare_html_output { Line 535  sub prepare_html_output {
             undef(@essays);              undef(@essays);
         }          }
     } # end of student loop      } # end of student loop
       $r->print('</table>'.$/);
     return;      return;
 }  }
   
   sub hashify_response {
       my ($response,$prob,$student,$partid,$respid) =@_;
       my $resp_hash = {};
       if ($env{'form.correctans'} eq 'true') {
           $resp_hash->{'Correct'} = 
               &Apache::lonstathelpers::get_student_answer
               ($prob,$student->{'username'},$student->{'domain'},
                $partid,$respid);
       }
       $resp_hash->{'Submission'} = 
           $response->[&Apache::loncoursedata::RDs_submission()];
       $resp_hash->{'Time'} = 
           $response->[&Apache::loncoursedata::RDs_timestamp()];
       $resp_hash->{'Attempt'} =
           $response->[&Apache::loncoursedata::RDs_tries()];
       $resp_hash->{'Awarded'} = 
           $response->[&Apache::loncoursedata::RDs_awarded()];
       if ($prob->is_task()) {
    $resp_hash->{'Grader'} = 
       $response->[&Apache::loncoursedata::RDs_response_eval_2()];
    if ($resp_hash->{'Attempt'} eq '0') {
       $resp_hash->{'Attempt'} = '';
    }
    $resp_hash->{'Award Detail'} = 
       $response->[&Apache::loncoursedata::RDs_part_award()];
    $resp_hash->{'Status'} = 
       $response->[&Apache::loncoursedata::RDs_response_eval()];
       } else {
    $resp_hash->{'Award Detail'} = 
       $response->[&Apache::loncoursedata::RDs_awarddetail()];
       }
   
       return $resp_hash;
   }
   
 #####################################################  #####################################################
 ##  ##
 ##     HTML helper routines  ##     HTML helper routines
 ##  ##
 #####################################################  #####################################################
 sub html_essay_results {  sub html_essay_results {
     my ($student,$prob,$partid,$respid,$response,$single_response)=@_;      my ($headers,$prob,$partid,$respid,$response,$single_response)=@_;
     #      if (! ref($headers) || ref($headers) ne 'ARRAY') {
     my $submission =$response->[&Apache::loncoursedata::RDs_submission()];          return '';
     $submission = &html_format_sub($submission,'essay');  
     #  
     my $correct = '';  
     if ($ENV{'form.correctans'} eq 'true') {  
         $correct = &Apache::lonstathelpers::analyze_problem_as_student  
             ($prob,$student->{'username'},$student->{'domain'},  
              $partid,$respid);  
         $correct = &html_format_sub($correct,'essay');  
     }      }
       # Start of telling them what problem, part, and response
     my $Str;      my $Str;
     if (! $single_response) {      if (! $single_response) {
         my $id = &get_title($prob->title,$prob->src);          my $id = $prob->compTitle;
         if (defined($partid) && $partid ne '0') {          if (defined($partid) && $partid ne '0') {
             $id .= ' '.$partid;              $id .= ' '.$prob->part_display($partid);
         }          }
         if (defined($respid)) {          if (defined($respid)) {
             $id .= ' '.$respid;              $id .= ' '.$respid;
         }          }
         $Str .= '<nobr>'.$id.'</nobr>'.('&nbsp;'x4);          $Str .= '<span class="LC_nobreak">'.$id.'</span>'.('&nbsp;'x4);
     }      }
     if ($ENV{'form.prob_status'} eq 'true') {      #
         $Str .= '<nobr>';      shift(@$headers); # Get rid of the Submission header
         $Str .= $response->[&Apache::loncoursedata::RDs_awarddetail()].      my $correct = '';
             ('&nbsp;'x4);      if ($headers->[0] eq 'Correct') {
         $Str .= &mt('Attempt [_1]',          $correct = &html_format_essay_sub($response->{'Correct'});
                     $response->[&Apache::loncoursedata::RDs_tries()]).          shift(@$headers);
                         ('&nbsp;'x4);      }
         $Str .= &Apache::lonlocal::locallocaltime      $Str .= '<span class="LC_nobreak">'.
             ($response->[&Apache::loncoursedata::RDs_timestamp()]).          join('',
             ('&nbsp;'x4);               map {
         $Str .= &mt('Awarded: [_1]',                   ('&nbsp;'x4).&mt($_.': [_1]',$response->{$_});
                     $response->[&Apache::loncoursedata::RDs_awarded()]).               } @$headers).'</span>';
                         ('&nbsp;'x4);      if (@$headers || ! $single_response) {
         $Str .= '</nobr><br />';          $Str .= '<br />';
     }      }
     $Str .= $submission;      $Str .= &html_format_essay_sub($response->{'Submission'});
       #
     if (defined($correct) && $correct !~ /^\s*$/) {      if (defined($correct) && $correct !~ /^\s*$/) {
         $Str .= '<hr /><b>'.&mt('Correct').'</b>'.$correct          $Str .= '<hr /><b>'.&mt('Correct').'</b>'.$correct
     }      }
     return $Str;      return $Str;
 }  }
   
 sub html_results {  sub html_format_essay_sub {
     my ($student,$prob,$partid,$respid,$response,$resptype) = @_;      my ($submission) = @_;
     my $submission =$response->[&Apache::loncoursedata::RDs_submission()];      return '' if (! defined($submission) || $submission eq '');
     $submission = &html_format_sub($submission,$resptype);      $submission = &HTML::Entities::decode($submission);
     my $correct = '';      $submission =~ s/\\\"/\"/g;
     if ($ENV{'form.correctans'} eq 'true') {      $submission =~ s/\\\'/\'/g;
         $correct = &Apache::lonstathelpers::analyze_problem_as_student      $submission =~ s|\\r\\n|$/|g;
             ($prob,$student->{'username'},$student->{'domain'},      $submission = &HTML::Entities::encode($submission,'<>&"');
              $partid,$respid);      $submission =~ s|$/\s*$/|$/</p><p>$/|g;
         $correct = &html_format_sub($correct,$resptype);      $submission =~ s|\\||g;
     }      $submission = '<p>'.$submission.'</p>';
     my $Str;      return $submission;
     $Str .= '<td valign="top">'.$submission.'</td>';  }
     if ($ENV{'form.correctans'} eq 'true') {  
         $Str .= '<td valign="top">'.$correct.'</td>';  sub html_task_results {
     }      my ($headers,$prob,$partid,$respid,$response,$resptype) = @_;
     if ($ENV{'form.prob_status'} eq 'true') {      if (! ref($headers) || ref($headers) ne 'ARRAY' || ! scalar(@$headers)) {
         $Str .= '<td valign="top">'.          return '';
             $response->[&Apache::loncoursedata::RDs_awarddetail()].  
             '</td>';  
         $Str .= '<td valign="top"><nobr>'.  
             &Apache::lonlocal::locallocaltime  
             ($response->[&Apache::loncoursedata::RDs_timestamp()]).  
             '</nobr></td>';  
         $Str .= '<td valign="top">'.  
             $response->[&Apache::loncoursedata::RDs_tries()].  
             '</td>';  
         $Str .= '<td valign="top">'.  
             $response->[&Apache::loncoursedata::RDs_awarded()].  
             '</td>';  
     }      }
     return $Str;  
       my @values;
       @values = map { $response->{$_}; } @$headers;
   
       my $td = '<td valign="top">';
       my $str = $td.join('</td>'.$td,@values).'</td>';
       return $str;
 }  }
   
 sub html_format_sub {  sub html_non_essay_results {
     my ($submission,$resptype) = @_;      my ($headers,$prob,$partid,$respid,$response,$resptype) = @_;
       if (! ref($headers) || ref($headers) ne 'ARRAY' || ! scalar(@$headers)) {
           return '';
       }
       # 
       my $submission = &HTML::Entities::decode(&unescape($response->{'Submission'})); 
     return '' if (! defined($submission) || $submission eq '');      return '' if (! defined($submission) || $submission eq '');
     if ($resptype eq 'essay') {      $submission =~ s/\\\"/\"/g;
         $submission =~ s|\\r\\n|$/|g;      $submission =~ s/\\\'/\'/g;
       if ($resptype eq 'radiobutton') {
         $submission = &HTML::Entities::encode($submission,'<>&"');          $submission = &HTML::Entities::encode($submission,'<>&"');
         $submission =~ s|$/\s*$/|$/</p><p>$/|g;  
         $submission =~ s|\\||g;  
         $submission = '<p>'.$submission.'</p>';  
     } elsif ($resptype eq 'radiobutton') {  
         $submission =~ s/=([^=])$//;          $submission =~ s/=([^=])$//;
     } elsif ($resptype =~ /^(option|match|rank)$/) {          $submission = '<span class="LC_nobreak">'.$submission.'</span>';
         $submission =   
             '<ul class="sub_studentans">'.  
             '<li>'.join('</li><li>',  
                         map {   
                             &Apache::lonnet::unescape($_) ;  
                         } sort split('&',$submission)  
                         ).  
                         '</li><ul>';  
     }      }
     return $submission;      $response->{'Submission'} = $submission;
       #
       my @values;
       if ($resptype =~ /^(option|match|rank)$/) {
           my %submission = 
               map { 
                   my ($foil,$value) = split('=',&unescape($_));
                   ($foil,$value);
               } split('&',$response->{'Submission'});
           my %correct;
           if (exists($response->{'Correct'})) {
               %correct = 
                   map { 
                       my ($foil,$value)=split('=',&unescape($_));
                       ($foil,$value);
                   } split('&',$response->{'Correct'});
           }
           #
           foreach my $original_header (@$headers) {
               if ($original_header =~ /^_/) {
                   # '_' denotes a foil column
                   my ($header) = ($original_header =~ m/^_(.*)$/);
                   my $option = '';
                   if ( my ($foil) = ($header =~ /(.*) Correct$/)) {
                       if (exists($correct{$foil})) {
                           $option = $correct{$foil};
                       }
                   } elsif (exists($submission{$header})) {
                       $option = $submission{$header};
                   }
                   push(@values,&HTML::Entities::encode($option));
               } elsif ($original_header eq 'Time') {
                   push(@values,&Apache::lonlocal::locallocaltime($response->{$original_header}));
               } else {
                   # A normal column
                   push(@values,$response->{$original_header});
               }
           }
       } else {
           @values = map { $response->{$_}; } @$headers;
       }
       my $td = '<td valign="top">';
       my $str = $td.join('</td>'.$td,@values).'</td>';
       return $str;
 }  }
   
   
 #########################################################  #########################################################
 #########################################################  #########################################################
 ##  ##
Line 485  sub html_format_sub { Line 717  sub html_format_sub {
 #########################################################  #########################################################
 #########################################################  #########################################################
 sub prepare_excel_output {  sub prepare_excel_output {
     my ($r,$Problems,$Students) = @_;      my ($r,$Problems,$Students,$show_named) = @_;
     my $c = $r->connection();      my $c = $r->connection();
       my $salt = '$1$'.$Apache::lonnet::perlvar{'AnonymousSalt'};
     #      #
     #      #
     # Determine the number of columns in the spreadsheet      # Determine the number of columns in the spreadsheet
     my $columncount = 3; # username, domain, id      my $columncount = 3; # username, domain, id
     my $response_multiplier = 1;      my @extra_resp_headers = &get_extra_response_headers();
     $response_multiplier ++   if ($ENV{'form.correctans'} eq 'true');  
     $response_multiplier += 4 if ($ENV{'form.prob_status'} eq 'true');  
     my $lastprob;      my $lastprob;
       my %problem_analysis;
     foreach my $prob (@$Problems) {      foreach my $prob (@$Problems) {
         $columncount += ($response_multiplier * $prob->countResponses);          my %analysis = &Apache::lonstathelpers::get_problem_data($prob->src);
           $problem_analysis{$prob->src}=\%analysis;
           foreach my $partid (@{$prob->parts}) {
               my $responses = [$prob->responseIds($partid)];
               my $resptypes = [$prob->responseType($partid)];
               for (my $i=0;$i<scalar(@$responses);$i++) {
                   my @headers = &get_headers($prob,$partid,$responses->[$i],
                                              $resptypes->[$i],
                                              $problem_analysis{$prob->src},
                                              'excel','display',
                                              @extra_resp_headers);
                   $columncount += scalar(@headers);
               }
           }
         last if ($columncount > 255);          last if ($columncount > 255);
         $lastprob = $prob;          $lastprob = $prob;
     }      }
Line 504  sub prepare_excel_output { Line 749  sub prepare_excel_output {
         $r->print('<h1>'.&mt('Unable to complete request').'</h1>'.$/.          $r->print('<h1>'.&mt('Unable to complete request').'</h1>'.$/.
                   '<p>'.&mt('LON-CAPA is unable to produce your Excel spreadsheet because your selections will result in more than 255 columns.  Excel allows only 255 columns in a spreadsheet.').'</p>'.$/.                    '<p>'.&mt('LON-CAPA is unable to produce your Excel spreadsheet because your selections will result in more than 255 columns.  Excel allows only 255 columns in a spreadsheet.').'</p>'.$/.
                   '<p>'.&mt('Consider selecting fewer problems to generate reports on, or reducing the number of items per problem.  Or use HTML or CSV output.').'</p>'.$/.                    '<p>'.&mt('Consider selecting fewer problems to generate reports on, or reducing the number of items per problem.  Or use HTML or CSV output.').'</p>'.$/.
                   '<p>'.&mt('The last problem that will fit in the current spreadsheet is [_1].',&get_title($lastprob->title,$lastprob->src)).'</p>');                    '<p>'.&mt('The last problem that will fit in the current spreadsheet is [_1].',$lastprob->compTitle).'</p>');
         $r->rflush();          $r->rflush();
         return;          return;
     }      }
Line 523  sub prepare_excel_output { Line 768  sub prepare_excel_output {
     $r->rflush();      $r->rflush();
     #      #
     # Create the excel spreadsheet      # Create the excel spreadsheet
     my $filename = '/prtspool/'.      my ($workbook,$filename,$format) = 
         $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.          &Apache::loncommon::create_workbook($r);
         time.'_'.rand(1000000000).'.xls';      return if (! defined($workbook));
     my $workbook  = Spreadsheet::WriteExcel->new('/home/httpd'.$filename);  
     if (! defined($workbook)) {  
         $r->log_error("Error creating excel spreadsheet $filename: $!");  
         $r->print('<p>'.&mt("Unable to create new Excel file.  ".  
                             "This error has been logged.  ".  
                             "Please alert your LON-CAPA administrator").  
                   '</p>');  
         return undef;  
     }  
     #  
     $workbook->set_tempdir('/home/httpd/perl/tmp');  
     #  
     my $format = &Apache::loncommon::define_excel_formats($workbook);  
     my $worksheet  = $workbook->addworksheet('Student Submission Data');      my $worksheet  = $workbook->addworksheet('Student Submission Data');
     #      #
     # Add headers to the worksheet      # Add headers to the worksheet
     my $rows_output = 0;      my $rows_output = 0;
     $worksheet->write($rows_output++,0,      $worksheet->write($rows_output++,0,
                     $ENV{'course.'.$ENV{'request.course.id'}.'.description'},                      $env{'course.'.$env{'request.course.id'}.'.description'},
                       $format->{'h1'});                        $format->{'h1'});
     $rows_output++;      $rows_output++;
     my $cols_output = 0;      my $cols_output = 0;
Line 556  sub prepare_excel_output { Line 788  sub prepare_excel_output {
     $worksheet->write($partid_row,0,'Part ID',$format->{'bold'});      $worksheet->write($partid_row,0,'Part ID',$format->{'bold'});
     $worksheet->write($respid_row,0,'Response ID',$format->{'bold'});      $worksheet->write($respid_row,0,'Response ID',$format->{'bold'});
     # Student headers      # Student headers
     my @StudentColumns = ('username','domain','id');      my @StudentColumns;
       if ($show_named) {
           @StudentColumns = qw(username domain id section);
       } else {
           @StudentColumns = qw(username);
       }
     foreach (@StudentColumns) {      foreach (@StudentColumns) {
         $worksheet->write($header_row,$cols_output++,ucfirst($_),          $worksheet->write($header_row,$cols_output++,ucfirst($_),
                           $format->{'bold'});                            $format->{'bold'});
     }      }
     # Problem headers      # Problem headers
       my %start_col;
     foreach my $prob (@$Problems) {      foreach my $prob (@$Problems) {
         my $title = &get_title($prob->title,$prob->src);          my $title = $prob->compTitle;
           unless (&Apache::loncommon::needs_gci_custom()) {
               ($title) = ($prob->src =~ m{/([^/]+)$});
           }
         $worksheet->write($title_row,$cols_output,          $worksheet->write($title_row,$cols_output,
                           $title,$format->{'h3'});                            $title,$format->{'h3'});
         foreach my $partid (@{$prob->parts}) {          foreach my $partid (@{$prob->parts}) {
             $worksheet->write($partid_row,$cols_output,$partid);              $worksheet->write($partid_row,$cols_output,
                                 $prob->part_display($partid));
             my $responses = [$prob->responseIds($partid)];              my $responses = [$prob->responseIds($partid)];
             my $resptypes = [$prob->responseType($partid)];              my $resptypes = [$prob->responseType($partid)];
             for (my $i=0;$i<scalar(@$responses);$i++) {              for (my $i=0;$i<scalar(@$responses);$i++) {
                   $start_col{$prob->symb}->{$partid}->{$responses->[$i]}=
                       $cols_output;
                 $worksheet->write($respid_row,$cols_output,                  $worksheet->write($respid_row,$cols_output,
                                   $resptypes->[$i].', '.$responses->[$i]);                                    $resptypes->[$i].', '.$responses->[$i]);
                 $worksheet->write($header_row,$cols_output,'Submission');                  my @headers = &get_headers($prob,$partid,$responses->[$i],
                 $cols_output++;                                             $resptypes->[$i],
                 if ($ENV{'form.correctans'} eq 'true') {                                             $problem_analysis{$prob->src},
                     $worksheet->write($header_row,$cols_output,'Correct');                                             'excel','display',
                     $cols_output++;                                             @extra_resp_headers);
                 }                  foreach my $text (@headers) {
                 if ($ENV{'form.prob_status'} eq 'true') {                      if ($text eq 'Time') {
                     $worksheet->write($header_row,$cols_output++,                          $worksheet->set_column($cols_output,$cols_output,undef,
                                       'Award Detail');                                                 $format->{'date'});
                     $worksheet->write($header_row,$cols_output++,'Attempt');                      } 
                     $worksheet->write($header_row,$cols_output++,'Time');                      $worksheet->write($header_row,$cols_output++,$text);
                     $worksheet->write($header_row,$cols_output++,'Awarded');  
                 }                  }
             }              }
         }          }
Line 600  sub prepare_excel_output { Line 843  sub prepare_excel_output {
         last if ($c->aborted());          last if ($c->aborted());
         $cols_output = 0;          $cols_output = 0;
         my $student_row = $max_row;          my $student_row = $max_row;
         foreach my $field (@StudentColumns) {          my $anonid = &Crypt::PasswdMD5::unix_md5_crypt($student->{'username'},
             $worksheet->write($student_row,$cols_output++,                                                         $salt);
                               $student->{$field});          $anonid = substr($anonid,length($salt)+1);
         }  
         my $last_student_col = $cols_output-1;  
         my $response_count;  
         foreach my $prob (@$Problems) {          foreach my $prob (@$Problems) {
             foreach my $partid (@{$prob->parts}) {              foreach my $partid (@{$prob->parts}) {
                 my @Response = $prob->responseIds($partid);                  my @Response = $prob->responseIds($partid);
                 my @ResponseType = $prob->responseType($partid);                  my @ResponseType = $prob->responseType($partid);
                 for (my $i=0;$i<=$#Response;$i++) {                  for (my $i=0;$i<=$#Response;$i++) {
                     my $response_start_col = $last_student_col +   
                         $response_count * $response_multiplier + 1;  
                     $response_count++;  
                     my $respid   = $Response[$i];                      my $respid   = $Response[$i];
                     my $resptype = $ResponseType[$i];                      my $resptype = $ResponseType[$i];
                     my $results =                       my $results = 
                         &Apache::loncoursedata::get_response_data_by_student                          &Apache::loncoursedata::get_response_data_by_student
                         ($student,$prob->symb(),$respid);                          ($student,$prob->symb(),$respid);
                       my @headers = &get_headers($prob,$partid,$respid,
                                                  $resptype,
                                                  $problem_analysis{$prob->src},
                                                  'excel','normal',
                                                  @extra_resp_headers);
   
                     if (! defined($results)) {                      if (! defined($results)) {
                         $results = [];                          $results = [];
                     }                      }
                     #                      #
                     $rows_output = $student_row;                      $rows_output = $student_row;
                     #                      #
                       my $response_start_col = $start_col{$prob->symb}->{$partid}->{$respid};
                     for (my $j=scalar(@$results)-1;$j>=0;$j--) {                      for (my $j=scalar(@$results)-1;$j>=0;$j--) {
                         $cols_output = $response_start_col;                          $cols_output = $response_start_col;
                         my $response = $results->[$j];                          if ($env{'form.all_sub'} ne 'true') {
                         if ($ENV{'form.all_sub'} ne 'true') {  
                             next if ($j ne scalar(@$results)-1);                              next if ($j ne scalar(@$results)-1);
                         }                          }
                         my $cols_output = &write_excel_row                          my $response = &hashify_response($results->[$j],
                             ($worksheet,                                                           $prob,
                              $rows_output++,$cols_output,                                                           $student,
                              $response,$student,                                                           $partid,
                              $prob,$partid,$respid,                                                           $respid);
                              $format,$resptype);                          my @response_data = 
                               &compile_response_data(\@headers,$response,
                                                      $prob,$partid,$respid,
                                                      $resptype,
                                                      \&excel_format_item);
                           $worksheet->write_row($rows_output++,$cols_output,
                                                 \@response_data);
                           $cols_output+=scalar(@response_data);
                         if ($rows_output > $max_row) {                          if ($rows_output > $max_row) {
                             $max_row = $rows_output;                              $max_row = $rows_output;
                         }                          }
Line 644  sub prepare_excel_output { Line 894  sub prepare_excel_output {
                 }                  }
             }              }
         }          }
         $rows_output++;          # Fill in the remaining rows with the students data
           for (my $row = $student_row;$row<$max_row;$row++) {
               my $cols = 0;
               foreach my $field (@StudentColumns) {
                   if ($show_named) {
                       $worksheet->write($row,$cols++,
                                         $student->{$field});
                   } else {
                       $worksheet->write($row,$cols++,
                                         $anonid);
                   }
               }
           }
         &Apache::lonhtmlcommon::Increment_PrgWin($r,\%prog_state,          &Apache::lonhtmlcommon::Increment_PrgWin($r,\%prog_state,
                                                  'last student');                                                   'last student');
     }      }
Line 665  sub prepare_excel_output { Line 927  sub prepare_excel_output {
     return;      return;
 }  }
   
 sub write_excel_row {  sub compile_response_data {
     my ($worksheet,$row,$col,$response,$student,$prob,$partid,$respid,      my ($headers,$response,$prob,$partid,$respid,$resptype,$format) = @_;
         $format,$resptype) = @_;      if (! ref($headers) || ref($headers) ne 'ARRAY' || ! scalar(@$headers)) {
     #           return ();
     my $submission =$response->[&Apache::loncoursedata::RDs_submission()];      }
     $submission = &excel_format_response($submission,$resptype);      if (ref($format) ne 'CODE') {
     $worksheet->write($row,$col++,$submission);          $format = sub { return $_[0]; };
     if ($ENV{'form.correctans'} eq 'true') {      }
         my $correct = &Apache::lonstathelpers::analyze_problem_as_student      #
             ($prob,$student->{'username'},$student->{'domain'},      my $submission = 
              $partid,$respid);          &HTML::Entities::decode
         $correct =&excel_format_response($correct,$resptype);          (&unescape($response->{'Submission'}));
         $worksheet->write($row,$col++,$correct);      if (!$prob->is_task()) {
     }   return () if (! defined($submission) || $submission eq '');
     if ($ENV{'form.prob_status'} eq 'true') {      }
         $worksheet->write      $submission =~ s/\\\"/\"/g;
             ($row,$col++,      $submission =~ s/\\\'/\'/g;
              $response->[&Apache::loncoursedata::RDs_awarddetail()]);      if ($resptype eq 'radiobutton') {
         $worksheet->write          $submission =~ s/=([^=])$//;
             ($row,$col++,$response->[&Apache::loncoursedata::RDs_tries()]);  
         $worksheet->write  
             ($row,$col++,  
              &Apache::lonstathelpers::calc_serial  
              ($response->[&Apache::loncoursedata::RDs_timestamp()]),  
              $format->{'date'});  
         $worksheet->write  
             ($row,$col++,$response->[&Apache::loncoursedata::RDs_awarded()]);  
     }      }
     return $col;      $response->{'Submission'} = $submission;
 }      #
       my @values;
 sub get_title {      if ($resptype =~ /^(option|match|rank)$/) {
     my ($title,$src) = @_;          my %submission = 
     if ($title eq '') {              map { 
         ($title) = ($src =~ m|/([^/]+)$|);                  my ($foil,$value) = split('=',&unescape($_));
                   ($foil,$value);
               } split('&',$response->{'Submission'});
           my %correct;
           if (exists($response->{'Correct'})) {
               %correct = 
                   map { 
                       my ($foil,$value)=split('=',&unescape($_));
                       ($foil,$value);
                   } split('&',$response->{'Correct'});
           }
           #
           foreach my $original_header (@$headers) {
               if ($original_header =~ /^_/) {
                   # '_' denotes a foil column
                   my ($header) = ($original_header =~ m/^_(.*)$/);
                   my $option = '';
                   if ( my ($foil) = ($header =~ /(.*) Correct$/)) {
                       if (exists($correct{$foil})) {
                           $option = $correct{$foil};
                       }
                   } elsif (exists($submission{$header})) {
                       $option = $submission{$header};
                   }
                   push(@values,&{$format}($option,$header));
               } else {
                   # A normal column
                   push(@values,&{$format}($response->{$original_header},
                                           $original_header));
               }
           }
     } else {      } else {
         $title =~ s/\&colon;/:/g;          @values = map { &{$format}($response->{$_},$_); } @$headers;
     }  
     return $title;  
 }  
   
 sub excel_format_response {  
     my ($answer,$responsetype) = @_;  
     if ($responsetype eq 'radiobutton') {  
         $answer =~ s/=([^=])$//;  
     } elsif ($responsetype =~ /^(option|match)$/) {  
         $answer = join("\n",  
                        map {   
                            &Apache::lonnet::unescape($_) ;  
                        } sort split('&',$answer)  
                        );  
     }  
     if ($answer =~ m/^=/) {  
         $answer = ' '.$answer;  
     }      }
     return $answer;      return @values;
 }  }
   
 ##  sub excel_format_item {
 ## Currently not used      my ($item,$type) = @_;
 sub get_problem_data {      if ($type eq 'Time') {
     my ($r,$Problems) = @_;          $item = &Apache::lonstathelpers::calc_serial($item);
     #  
     # Analyze   
     my %Data;  
     if (scalar(@$Problems) > 5) {  
         # progress window  
         my %prog_state=&Apache::lonhtmlcommon::Create_PrgWin  
             ($r,'Problem Analysis Status',  
              'Problem Analysis Progress',   
              scalar(@$Problems),  
              'inline',undef,'Statistics','stats_status');  
         foreach my $problem (@$Problems) {  
             $Data{$problem->symb} =   
             {&Apache::lonstathelpers::get_problem_data  
                  ($problem->src)};  
             &Apache::lonhtmlcommon::Increment_PrgWin($r,\%prog_state,  
                                                      'last problem');  
         }  
         &Apache::lonhtmlcommon::Close_PrgWin($r,\%prog_state);  
     } else {      } else {
         foreach my $problem (@$Problems) {          if ($item =~ m/^=/) {
             $Data{$problem->symb} =               $item = ' '.$item;
             {&Apache::lonstathelpers::get_problem_data  
                  ($problem->src)};  
         }          }
           $item =~ s/\\r//g;
           $item =~ s/\\n/\n/g;
           $item =~ s/(\s*$|^\s*)//g;
           $item =~ s/\\\'/\'/g;
     }      }
     return \%Data;      return $item;
 }  }
   
   
 =pod  
   
 #########################################################  #########################################################
 #########################################################  #########################################################
 ##  ##
Line 766  sub get_problem_data { Line 1014  sub get_problem_data {
 #########################################################  #########################################################
 #########################################################  #########################################################
 sub prepare_csv_output {  sub prepare_csv_output {
     my ($r,$Problems,$Students) = @_;      my ($r,$problems,$students,$show_named) = @_;
     my $problem;  
     #  
     my $c = $r->connection();      my $c = $r->connection();
     my ($resource,$respid,$partid) = ($problem->{'resource'},      my $salt = '$1$'.$Apache::lonnet::perlvar{'AnonymousSalt'};
                                       $problem->{'respid'},  
                                       $problem->{'part'});  
     #  
     if ($ENV{'form.correctans'} eq 'true') {  
         $r->print('<h2>'.&mt('Generating Correct Answers').'</h2>');  
         &Apache::lonstathelpers::GetStudentAnswers($r,$problem,$Students,  
                                                    'Statistics',  
                                                    'stats_status');  
     }  
     #      #
     $r->print('<h2>'.      $r->print('<h2>'.
               &mt('Generating CSV report of student responses').'</h2>');                &mt('Generating CSV report of student responses').'</h2>');
Line 788  sub prepare_csv_output { Line 1025  sub prepare_csv_output {
     my %prog_state=&Apache::lonhtmlcommon::Create_PrgWin      my %prog_state=&Apache::lonhtmlcommon::Create_PrgWin
         ($r,'CSV File Compilation Status',          ($r,'CSV File Compilation Status',
          'CSV File Compilation Progress',            'CSV File Compilation Progress', 
          scalar(@$Students),'inline',undef,'Statistics','stats_status');           scalar(@$students),'inline',undef,'Statistics','stats_status');
       
     $r->rflush();      $r->rflush();
     #      #
     # Open a file      # Open a file
     my $outputfile;      my $outputfile;
     my $filename = '/prtspool/'.      my $filename = '/prtspool/'.
         $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.          $env{'user.name'}.'_'.$env{'user.domain'}.'_'.
             time.'_'.rand(1000000000).'.csv';              time.'_'.rand(1000000000).'.csv';
     unless ($outputfile = Apache::File->new('>/home/httpd'.$filename)) {      unless ($outputfile = Apache::File->new('>/home/httpd'.$filename)) {
         $r->log_error("Couldn't open $filename for output $!");          $r->log_error("Couldn't open $filename for output $!");
         $r->print("Problems occured in writing the csv file.  ".          $r->print('<div class="LC_error">'
                   "This error has been logged.  ".                   .&mt('Problems occurred in writing the CSV file. '
                   "Please alert your LON-CAPA administrator.");                       .'This error has been logged. '
                        .'Please alert your LON-CAPA administrator.')
                    .'</div>');
         $outputfile = undef;          $outputfile = undef;
     }      }
     #      #
       # Compute the number of columns per response
       my @extra_resp_headers = &get_extra_response_headers($show_named);
     #      #
     my @Columns;      # Create the table header
     if (exists($ENV{'form.concise'}) && $ENV{'form.concise'} eq 'true') {      my @student_columns;
         foreach (@DefaultColumns) {      if ($show_named) {
             if ($_->{'name'} =~ /^(username|domain|id)$/){          @student_columns = qw(username domain id section);
                 push(@Columns,$_);  
             }  
         }  
     } else {      } else {
         @Columns = @DefaultColumns;          @student_columns = qw(username);
     }      }
     #      #
     my $response_type = &get_response_type($resource,$partid,$respid);      my %headers;
     if (! defined($response_type) || $response_type eq '') {      push(@{$headers{'student'}},@student_columns);
         $r->print('<h2>'.&mt('Unable to determine response type').'</h2>');      # Pad for the student data
         return;      foreach my $row ('problem','part','response') {
           $headers{$row}=[map {''} @student_columns];
     }      }
     #      #
     my $header = &csv_headers(\@Columns).','.&csv_generic_headers();      # we put the headers into the %headers hash
     print $outputfile $header.$/;      my %problem_analysis;
       my %start_col;
       my $max_column = scalar(@student_columns);
       foreach my $prob (@$problems) {
           my %analysis = &Apache::lonstathelpers::get_problem_data($prob->src);
           $problem_analysis{$prob->src}=\%analysis;
           my $title = $prob->compTitle;
           unless (&Apache::loncommon::needs_gci_custom()) {
               ($title) = ($prob->src =~ m{/([^/]+)$});
           }
           $headers{'problem'}->[$max_column] = $title;
           foreach my $partid (@{$prob->parts}) {
               $headers{'part'}->[$max_column] = $prob->part_display($partid);
               my $responses = [$prob->responseIds($partid)];
               my $resptypes = [$prob->responseType($partid)];
               for (my $i=0;$i<scalar(@$responses);$i++) {
                   my @headers = &get_headers($prob,$partid,$responses->[$i],
                                              $resptypes->[$i],
                                              $problem_analysis{$prob->src},
                                              'csv','display',
                                              @extra_resp_headers);
                   $start_col{$prob->symb}->{$partid}->{$responses->[$i]}=
                       $max_column;
                   $headers{'response'}->[$max_column]=
                       &mt('Response [_1]',$responses->[$i]);
                   for (my $j=0;$j<=$#headers;$j++) {
                       $headers{'student'}->[$max_column+$j]=$headers[$j];
                   }
                   $max_column += scalar(@headers);
               }
           }
       }
       foreach my $row ('problem','part','response','student') {
           print $outputfile '"'.
               join('","',
                    map { 
                        &Apache::loncommon::csv_translate($_); 
                    } @{$headers{$row}}).'"'.$/;
       }
     #      #
     foreach my $student (@$Students) {      # Main loop
       foreach my $student (@$students) {
         last if ($c->aborted());          last if ($c->aborted());
         my $results = &Apache::loncoursedata::get_response_data_by_student          my $anonid = &Crypt::PasswdMD5::unix_md5_crypt($student->{'username'},
             ($student,$resource->{'symb'},$respid);                                                         $salt);
         next if (! defined($results) || ref($results) ne 'ARRAY');         $anonid = substr($anonid,length($salt)+1);
         for (my $i=0;$i<scalar(@$results);$i++) {          my @rows;
             my $response = $results->[$i];          foreach my $prob (@$problems) {
             if ($ENV{'form.last_sub_only'} eq 'true' &&               foreach my $partid (@{$prob->parts}) {
                 $i < (scalar(@$results)-1)) {                  my @responses = $prob->responseIds($partid);
                 next;                  my @response_type = $prob->responseType($partid);
                   for (my $i=0;$i<=$#responses;$i++) {
                       my $respid   = $responses[$i];
                       my $resptype = $response_type[$i];
                       my @headers = &get_headers($prob,$partid,$respid,$resptype,
                                                  $problem_analysis{$prob->src},
                                                  'csv','normal',
                                                  @extra_resp_headers);
                       my $results = 
                           &Apache::loncoursedata::get_response_data_by_student
                           ($student,$prob->symb(),$respid);
                       if (! defined($results)) {
                           $results = [];
                       }
                       for (my $j=0; $j<scalar(@$results);$j++) {
                           if ($env{'form.all_sub'} ne 'true') {
                               next if ($j != 0);
                           }
                           my $idx = scalar(@$results) - $j - 1;
                           my $response = &hashify_response($results->[$idx],
                                                            $prob,$student,
                                                            $partid,$respid);
                           my @data = &compile_response_data(\@headers,$response,
                                                             $prob,$partid,
                                                             $respid,$resptype,
                                                             \&csv_format_item);
                           my $resp_start_idx =
                               $start_col{$prob->symb}->{$partid}->{$respid};
                           for (my $k=0;$k<=$#data;$k++) {
                               $rows[$j]->[$resp_start_idx + $k] = $data[$k];
                           }
                       }
                   }
             }              }
             my $data;          }
             $data->{'username'} = $student->{'username'};          foreach my $row (@rows) {
             $data->{'domain'}   = $student->{'domain'};              my $student_row_data = '';
             $data->{'id'} = $student->{'id'};              if ($show_named) {
             $data->{'fullname'} = $student->{'fullanem'};                  $student_row_data = '"'.join('","',
             $data->{'status'} = $student->{'status'};                                          map { $student->{$_}; }
             $data->{'time'} = &Apache::lonlocal::locallocaltime                                          @student_columns).'"';
                 ($response->[&Apache::loncoursedata::RDs_timestamp()]);  
             $data->{'attempt'} =   
                 $response->[&Apache::loncoursedata::RDs_tries()];  
             $data->{'awarded'} =   
                 $response->[&Apache::loncoursedata::RDs_awarded()];  
             $data->{'awarddetail'} =   
                 $response->[&Apache::loncoursedata::RDs_awarddetail()];  
             $data->{'weight'} = &Apache::lonnet::EXT  
                 ('resource.'.$partid.'.weight',$resource->{'symb'},  
                  undef,undef,undef);  
             $data->{'score'} = $data->{'weight'} * $data->{'awarded'};  
             my $rowextra = '';  
             my $row;  
             foreach my $col (@Columns) {  
                 $row .= '"'.  
                     &Apache::loncommon::csv_translate($data->{$col->{'name'}}).'",';  
             }  
             if ($response_type eq 'option') {  
                 $row .= &csv_option_results  
                     ($response->[&Apache::loncoursedata::RDs_submission()],  
                      $student->{'answer'},  
                      scalar(@Columns),$rowextra);  
             } elsif ($response_type eq 'radiobutton') {  
                 $row .= &csv_radiobutton_results  
                     ($response->[&Apache::loncoursedata::RDs_submission()],  
                      $student->{'answer'},  
                      scalar(@Columns),$rowextra);  
             } else {              } else {
                 $row .= &csv_generic_results                  $student_row_data = '"'.$anonid.'"';
                     ($response->[&Apache::loncoursedata::RDs_submission()],              }
                      $student->{'answer'},              print $outputfile $student_row_data;
                      scalar(@Columns),$rowextra);              for (my $i=scalar(@student_columns);$i<$max_column;$i++) {
                   my $value = &Apache::loncommon::csv_translate($row->[$i]);
                   $value ||='';
                   print $outputfile ',"'.$value.'"';
             }              }
             print $outputfile $row.$/;              print $outputfile $/;
         }          }
           undef(@rows);
         &Apache::lonhtmlcommon::Increment_PrgWin($r,\%prog_state,          &Apache::lonhtmlcommon::Increment_PrgWin($r,\%prog_state,
                                                  'last student');                                                   'last student');
     }      }
Line 887  sub prepare_csv_output { Line 1174  sub prepare_csv_output {
     # Close the progress window      # Close the progress window
     &Apache::lonhtmlcommon::Close_PrgWin($r,\%prog_state);      &Apache::lonhtmlcommon::Close_PrgWin($r,\%prog_state);
     #      #
     # Tell the user where to get their csv file      # Tell the user where to get their CSV file
     $r->print('<br />'.      $r->print('<br />'.
               '<a href="'.$filename.'">'.&mt('Your csv file.').'</a>'."\n");                '<a href="'.$filename.'">'.&mt('Your CSV file.').'</a>'."\n");
     $r->rflush();      $r->rflush();
     return;      return;
 }  }
   
 sub csv_headers {  sub csv_format_item {
     my ($Columns) = @_;      my ($item,$type) = @_;
     my $Str;      if ($type eq 'Time') {
     foreach my $column (@$Columns) {          $item = localtime($item);
         $Str .=   
             '"'.&Apache::loncommon::csv_translate($column->{'display'}).'",';  
     }  
     chop($Str);  
     return $Str;  
 }  
   
 sub csv_generic_headers {  
     my ($title) = @_;  
     if (! defined($title)) {  
         $title = &mt('Submission');  
     }  
     my $header = '"'.&Apache::loncommon::csv_translate($title).'"';  
     if ($ENV{'form.correctans'} eq 'true') {  
         $header .= ',"'.&Apache::loncommon::csv_translate(&mt('Correct')).'"';  
     }      }
     return $header;      $item =&Apache::loncommon::csv_translate($item); 
       return $item;
 }  }
   
 #------------------------------------------  
 sub csv_essay_results {  
     my ($submission,$correct,$tablewidth,$rowextra)=@_;  
     #  
     $submission =~ s|\\r|\\\\r|g;  
     $submission =~ s|\\n|\\\\n|g;  
     #  
     return &csv_generic_results($submission,$correct,$tablewidth);  
 }  
   
 #------------------------------------------  
 sub csv_radiobutton_results {  
     my ($submission,$correct,$tablewidth,$rowclass)=@_;  
     $submission =~ s/=[^=]*$//;  
     return &csv_generic_results($submission,$correct,$tablewidth,$rowclass);  
 }  
   
 #------------------------------------------  
 sub csv_option_results {  
     my ($submission,$correct,$tablewidth,$rowclass)=@_;  
     $submission = join(',',  
                        map {   
                            &Apache::lonnet::unescape($_) ;  
                        } sort split('&',$submission)  
                        );  
     if (defined($correct) && $correct !~ /^\s*$/) {  
         $correct =join(',',  
                        map {   
                            &Apache::lonnet::unescape($_) ;  
                        } sort split('&',$submission));  
     }  
     return &csv_generic_results($submission,$correct,$tablewidth,$rowclass);  
 }  
   
 #------------------------------------------  
 sub csv_generic_results {  
     my ($submission,$correct,$tablewidth,$rowclass)=@_;  
     my $Str .=   
         '"'.&Apache::loncommon::csv_translate($submission).'"';  
     if ($ENV{'form.correctans'} eq 'true') {  
         $Str .= ',"'.&Apache::loncommon::csv_translate($correct).'"';  
     }  
     return $Str;  
 }  
   
 =cut  
   
 #########################################################  #########################################################
 #########################################################  #########################################################
 ##  ##
Line 975  sub CreateInterface { Line 1201  sub CreateInterface {
     ##      ##
     ## Output Selection      ## Output Selection
     my $output_selector = $/.'<select name="output">'.$/;      my $output_selector = $/.'<select name="output">'.$/;
 #    foreach ('HTML','Excel','CSV') {      foreach ('HTML','Excel','CSV') {
     foreach ('HTML','Excel') {  
         $output_selector .= '    <option value="'.lc($_).'"';          $output_selector .= '    <option value="'.lc($_).'"';
         if ($ENV{'form.output'} eq lc($_)) {          if ($env{'form.output'} eq lc($_)) {
             $output_selector .= ' selected ';              $output_selector .= ' selected="selected" ';
         }          }
         $output_selector .='>'.&mt($_).'</option>'.$/;          $output_selector .='>'.&mt($_).'</option>'.$/;
     }       } 
Line 987  sub CreateInterface { Line 1212  sub CreateInterface {
     ##      ##
     ## Environment variable initialization      ## Environment variable initialization
     my $Str = '';      my $Str = '';
     $Str .= &Apache::lonhtmlcommon::breadcrumbs      $Str .= &Apache::lonhtmlcommon::breadcrumbs('Student Submission Reports');
         (undef,'Student Submission Reports');      $Str .= '<br />';
     $Str .= '<p>';      $Str .= &Apache::loncommon::start_data_table();
     $Str .= '<table cellspacing="5">'."\n";      $Str .= &Apache::loncommon::start_data_table_header_row();
     $Str .= '<tr>';  
     $Str .= '<th>'.&mt('Sections').'</th>';      $Str .= '<th>'.&mt('Sections').'</th>';
     $Str .= '<th>'.&mt('Enrollment Status').'</th>';      $Str .= '<th>'.&mt('Groups').'</th>';
     $Str .= '<th>'.&mt('Output as [_1]',$output_selector).'</th>';      $Str .= '<th>'.&mt('Access Status').'</th>';
     $Str .= '</tr>'."\n";      $Str .= '<th>'.&mt('Options').'</th>';
       $Str .= '<th>'.&mt('Output Format').'</th>';
       $Str .= &Apache::loncommon::end_data_table_header_row();
     #      #
     $Str .= '<tr><td align="center">'."\n";      $Str .= &Apache::loncommon::start_data_table_row();
       $Str .= '<td align="center">'."\n";
     $Str .= &Apache::lonstatistics::SectionSelect('Section','multiple',5);      $Str .= &Apache::lonstatistics::SectionSelect('Section','multiple',5);
     $Str .= '</td>';      $Str .= '</td>';
     #      #
       $Str .= '<td align="center">'."\n";
       $Str .= &Apache::lonstatistics::GroupSelect('Group','multiple',5);
       $Str .= '</td>';
       #
     $Str .= '<td align="center">';      $Str .= '<td align="center">';
     $Str .= &Apache::lonhtmlcommon::StatusOptions(undef,undef,5);      $Str .= &Apache::lonhtmlcommon::StatusOptions(undef,undef,5);
     $Str .= '</td>';      $Str .= '</td>';
     #      #
     # Render problem checkbox      # Render problem checkbox
     my $prob_checkbox = '<input type="checkbox" name="renderprob" ';      my $prob_checkbox = '<input type="checkbox" name="renderprob" ';
     if (exists($ENV{'form.renderprob'}) && $ENV{'form.renderprob'} eq 'true') {      if (exists($env{'form.renderprob'}) && $env{'form.renderprob'} eq 'true') {
         $prob_checkbox .= 'checked ';          $prob_checkbox .= 'checked="checked" ';
     }      }
     $prob_checkbox .= 'value="true" />';      $prob_checkbox .= 'value="true" />';
     #      #
     # Compute correct answers checkbox      # Compute correct answers checkbox
     my $ans_checkbox = '<input type="checkbox" name="correctans" ';      my $ans_checkbox = '<input type="checkbox" name="correctans" ';
     if (exists($ENV{'form.correctans'}) && $ENV{'form.correctans'} eq 'true') {      if (exists($env{'form.correctans'}) && $env{'form.correctans'} eq 'true') {
         $ans_checkbox .= 'checked ';          $ans_checkbox .= 'checked="checked" ';
     }      }
     $ans_checkbox .= 'value="true" />';      $ans_checkbox .= 'value="true" />';
     #      #
     # Show all submissions checkbox      # Show all submissions checkbox
     my $all_sub_checkbox = '<input type="checkbox" name="all_sub" ';      my $all_sub_checkbox = '<input type="checkbox" name="all_sub" ';
     if (exists($ENV{'form.all_sub'}) &&       if (exists($env{'form.all_sub'}) && 
         $ENV{'form.all_sub'} eq 'true') {          $env{'form.all_sub'} eq 'true') {
         $all_sub_checkbox .= 'checked ';          $all_sub_checkbox .= 'checked="checked" ';
     }      }
     $all_sub_checkbox.= 'value="true" />';      $all_sub_checkbox.= 'value="true" />';
     #      #
     # problem status checkbox      # problem status checkbox
     my $prob_status_checkbox = '<input type="checkbox" name="prob_status" ';      my $prob_status_checkbox = '<input type="checkbox" name="prob_status" ';
     if (exists($ENV{'form.prob_status'}) &&       if (exists($env{'form.prob_status'}) && 
         $ENV{'form.prob_status'} eq 'true') {          $env{'form.prob_status'} eq 'true') {
         $prob_status_checkbox .= 'checked ';          $prob_status_checkbox .= 'checked="checked" ';
     }      }
     $prob_status_checkbox .= 'value="true" />';      $prob_status_checkbox .= 'value="true" />';
     #      my $anon_checkbox;
     $Str .= '<td align="right" halign="top">'.      unless (&Apache::loncommon::needs_gci_custom()) {
           #
           # anonymized checkbox
           #
           $anon_checkbox = '<input type="checkbox" name="anonymized" ';
           if (exists($env{'form.anonymized'}) &&
               $env{'form.anonymized'} eq 'true') {
               $anon_checkbox .= 'checked="checked" ';
           }
           $anon_checkbox .= ' value="true" />';
       }
   
       $Str .= '<td align="right" valign="top">'.
         '<label><b>'.          '<label><b>'.
         &mt('Show problem [_1]',$prob_checkbox).'</b></label><br />'.          &mt('Show problem').' '.$prob_checkbox.'</b></label><br />'.
         '<label><b>'.          '<label><b>'.
         &mt('Show correct answers [_1]',$ans_checkbox).'</b></label><br />'.          &mt('Show correct answers').' '.$ans_checkbox.'</b></label><br />'.
         '<label><b>'.          '<label><b>'.
         &mt('Show all submissions [_1]',$all_sub_checkbox).          &mt('Show all submissions').' '.$all_sub_checkbox.
         '</b></label><br />'.          '</b></label><br />'.
         '<label><b>'.          '<label><b>'.
         &mt('Show problem grading [_1]',$prob_status_checkbox).          &mt('Show problem grading').' '.$prob_status_checkbox.
         '</b></label><br />'.          '</b></label><br />';
         '</td>';  
       unless (&Apache::loncommon::needs_gci_custom()) {
           $Str .= '<label><b>'.
                   &mt('Anonymized').' '.$anon_checkbox.
                   '</b></label><br />';
       }
       $Str .= '</td>';
       #
       $Str .= '<td align="center" valign="top">'.$output_selector.'</td>';
     #      #
     $Str .= '</tr>'."\n";      $Str .= &Apache::loncommon::end_data_table_row();
     $Str .= '</table>'."\n";      $Str .= &Apache::loncommon::end_data_table();
     #      #
     $Str .= '<nobr>'.&mt('Status: [_1]',      $Str .= '<p><span class="LC_nobreak">'
                          '<input type="text" '.             .&mt('Status: [_1]',
                          'name="stats_status" size="60" value="" />').                      '<input type="text" name="stats_status"'
             '</nobr>'.'</p>';                         .' size="60" value="" readonly="readonly" />')
              .'</span></p>';
     ##      ##
     return $Str;      return $Str;
 }  }
Removed from v.1.21  
changed lines
  Added in v.1.54.10.4

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>