Annotation of loncom/interface/statistics/lonproblemanalysis.pm, revision 1.98

1.1       stredwic    1: # The LearningOnline Network with CAPA
                      2: #
1.98    ! matthew     3: # $Id: lonproblemanalysis.pm,v 1.97 2004/10/29 15:27:39 matthew Exp $
1.1       stredwic    4: #
                      5: # Copyright Michigan State University Board of Trustees
                      6: #
                      7: # This file is part of the LearningOnline Network with CAPA (LON-CAPA).
                      8: #
                      9: # LON-CAPA is free software; you can redistribute it and/or modify
                     10: # it under the terms of the GNU General Public License as published by
                     11: # the Free Software Foundation; either version 2 of the License, or
                     12: # (at your option) any later version.
                     13: #
                     14: # LON-CAPA is distributed in the hope that it will be useful,
                     15: # but WITHOUT ANY WARRANTY; without even the implied warranty of
                     16: # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
                     17: # GNU General Public License for more details.
                     18: #
                     19: # You should have received a copy of the GNU General Public License
                     20: # along with LON-CAPA; if not, write to the Free Software
                     21: # Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
                     22: #
                     23: # /home/httpd/html/adm/gpl.txt
                     24: #
                     25: # http://www.lon-capa.org/
                     26: #
1.11      minaeibi   27: package Apache::lonproblemanalysis;
1.1       stredwic   28: 
                     29: use strict;
                     30: use Apache::lonnet();
1.25      matthew    31: use Apache::loncommon();
1.7       stredwic   32: use Apache::lonhtmlcommon();
1.23      matthew    33: use Apache::loncoursedata();
                     34: use Apache::lonstatistics;
                     35: use Apache::lonlocal;
1.71      matthew    36: use Apache::lonstathelpers();
                     37: use Apache::lonstudentsubmissions();
1.37      matthew    38: use HTML::Entities();
1.42      matthew    39: use Time::Local();
1.43      matthew    40: use Spreadsheet::WriteExcel();
1.2       stredwic   41: 
1.40      matthew    42: my $plotcolors = ['#33ff00', 
                     43:                   '#0033cc', '#990000', '#aaaa66', '#663399', '#ff9933',
                     44:                   '#66ccff', '#ff9999', '#cccc33', '#660000', '#33cc66',
                     45:                   ]; 
1.39      matthew    46: 
1.54      matthew    47: my @SubmitButtons = ({ name => 'PrevProblemAnalysis',
                     48:                        text => 'Previous Problem' },
                     49:                      { name => 'ProblemAnalysis',
1.46      matthew    50:                        text => 'Analyze Problem Again' },
1.54      matthew    51:                      { name => 'NextProblemAnalysis',
                     52:                        text => 'Next Problem' },
                     53:                      { name => 'break'},
1.46      matthew    54:                      { name => 'SelectAnother',
1.53      matthew    55:                        text => 'Choose a different Problem' },
1.46      matthew    56:                      { name => 'ExcelOutput',
                     57:                        text => 'Produce Excel Output' });
                     58: 
1.1       stredwic   59: sub BuildProblemAnalysisPage {
1.23      matthew    60:     my ($r,$c)=@_;
1.49      matthew    61:     #
                     62:     my %Saveable_Parameters = ('Status' => 'scalar',
                     63:                                'Section' => 'array',
                     64:                                'NumPlots' => 'scalar',
                     65:                                'AnalyzeOver' => 'scalar',
                     66:                                );
                     67:     &Apache::loncommon::store_course_settings('problem_analysis',
                     68:                                               \%Saveable_Parameters);
                     69:     &Apache::loncommon::restore_course_settings('problem_analysis',
                     70:                                                 \%Saveable_Parameters);
                     71:     #
                     72:     &Apache::lonstatistics::PrepareClasslist();
1.48      matthew    73:     #
1.25      matthew    74:     $r->print(&CreateInterface());
1.28      matthew    75:     #
                     76:     my @Students = @Apache::lonstatistics::Students;
                     77:     #
1.86      matthew    78:     if (@Students < 1 && exists($ENV{'form.firstrun'})) {
1.46      matthew    79:         $r->print('<h2>There are no students in the sections selected</h2>');
                     80:     }
                     81:     #
1.85      matthew    82:     my @CacheButtonHTML = 
                     83:         &Apache::lonstathelpers::manage_caches($r,'Statistics','stats_status');
1.39      matthew    84:     $r->rflush();
1.46      matthew    85:     #
1.87      matthew    86:     # Support for numerical and radio response isn't complete enough to
                     87:     # include in 1.2 release.
                     88:     # my $problem_types = '(option|radiobutton|numerical)';
1.94      matthew    89:     my $problem_types = '.';#(option)';
1.33      matthew    90:     if (exists($ENV{'form.problemchoice'}) && 
                     91:         ! exists($ENV{'form.SelectAnother'})) {
1.46      matthew    92:         foreach my $button (@SubmitButtons) {
1.54      matthew    93:             if ($button->{'name'} eq 'break') {
                     94:                 $r->print("<br />\n");
                     95:             } else {
                     96:                 $r->print('<input type="submit" name="'.$button->{'name'}.'" '.
                     97:                           'value="'.&mt($button->{'text'}).'" />');
                     98:                 $r->print('&nbsp;'x5);
                     99:             }
1.46      matthew   100:         }
1.85      matthew   101:         foreach my $html (@CacheButtonHTML) {
                    102:             $r->print($html.('&nbsp;'x5));
                    103:         }
1.31      matthew   104:         #
1.25      matthew   105:         $r->print('<hr />');
1.54      matthew   106:         $r->rflush();
                    107:         #
                    108:         # Determine which problem we are to analyze
1.61      matthew   109:         my $current_problem = &Apache::lonstathelpers::get_target_from_id
                    110:             ($ENV{'form.problemchoice'});
1.54      matthew   111:         #
1.61      matthew   112:         my ($prev,$curr,$next) = 
                    113:             &Apache::lonstathelpers::get_prev_curr_next($current_problem,
1.66      matthew   114:                                                         $problem_types,
                    115:                                                         'response',
1.61      matthew   116:                                                         );
1.54      matthew   117:         if (exists($ENV{'form.PrevProblemAnalysis'}) && defined($prev)) {
                    118:             $current_problem = $prev;
                    119:         } elsif (exists($ENV{'form.NextProblemAnalysis'}) && defined($next)) {
                    120:             $current_problem = $next;
                    121:         } else {
                    122:             $current_problem = $curr;
                    123:         }
1.23      matthew   124:         #
1.54      matthew   125:         # Store the current problem choice and send it out in the form
1.61      matthew   126:         $ENV{'form.problemchoice'} = 
                    127:             &Apache::lonstathelpers::make_target_id($current_problem);
1.54      matthew   128:         $r->print('<input type="hidden" name="problemchoice" value="'.
                    129:                   $ENV{'form.problemchoice'}.'" />');
1.28      matthew   130:         #
1.54      matthew   131:         if (! defined($current_problem->{'resource'})) {
1.46      matthew   132:             $r->print('resource is undefined');
                    133:         } else {
1.54      matthew   134:             my $resource = $current_problem->{'resource'};
1.44      matthew   135:             $r->print('<h1>'.$resource->{'title'}.'</h1>');
1.41      matthew   136:             $r->print('<h3>'.$resource->{'src'}.'</h3>');
1.91      matthew   137:             if ($ENV{'form.show_prob'} eq 'true') {
                    138:                 $r->print(&Apache::lonstathelpers::render_resource($resource));
                    139:             }
1.44      matthew   140:             $r->rflush();
1.71      matthew   141:             my %Data = &Apache::lonstathelpers::get_problem_data
                    142:                 ($resource->{'src'});
1.88      matthew   143:             my $problem_data = $Data{$current_problem->{'part'}.
1.54      matthew   144:                                     '.'.
                    145:                                     $current_problem->{'respid'}};
                    146:             if ($current_problem->{'resptype'} eq 'option') {
1.56      matthew   147:                 &OptionResponseAnalysis($r,$current_problem,
1.88      matthew   148:                                         $problem_data,
1.47      matthew   149:                                         \@Students);
1.54      matthew   150:             } elsif ($current_problem->{'resptype'} eq 'radiobutton') {
1.97      matthew   151:                 &radio_response_analysis($r,$current_problem,
                    152:                                          $problem_data,
                    153:                                          \@Students);
1.66      matthew   154:             } elsif ($current_problem->{'resptype'} eq 'numerical') {
1.82      matthew   155:                 ## 
                    156:                 ## analyze all responses of a problem at once
                    157:                 my $res = $current_problem->{'resource'};
                    158:                 foreach my $partid (@{$res->{'parts'}}) {
                    159:                     $current_problem->{'part'} = $partid;
                    160:                     foreach my $respid (@{$res->{'partdata'}->{$partid}->{'ResponseIds'}}) {
                    161:                         $current_problem->{'respid'}=$respid;
                    162:                         &NumericalResponseAnalysis($r,$current_problem,
1.88      matthew   163:                                                    $problem_data,\@Students);
1.82      matthew   164:                     }
                    165:                 }
1.47      matthew   166:             } else {
                    167:                 $r->print('<h2>This analysis is not supported</h2>');
                    168:             }
1.7       stredwic  169:         }
1.23      matthew   170:         $r->print('<hr />');
1.25      matthew   171:     } else {
1.31      matthew   172:         $r->print('<input type="submit" name="ProblemAnalysis" value="'.
                    173:                   &mt('Analyze Problem').'" />');
                    174:         $r->print('&nbsp;'x5);
1.27      matthew   175:         $r->print('<h3>'.&mt('Please select a problem to analyze').'</h3>');
1.61      matthew   176:         $r->print(&Apache::lonstathelpers::ProblemSelector
1.66      matthew   177:                   ($problem_types));
1.1       stredwic  178:     }
                    179: }
                    180: 
1.69      matthew   181: 
                    182: #########################################################
                    183: #########################################################
                    184: ##
1.66      matthew   185: ##      Numerical Response Routines
                    186: ##
                    187: #########################################################
                    188: #########################################################
                    189: sub NumericalResponseAnalysis {
1.88      matthew   190:     my ($r,$problem,$problem_data,$Students) = @_;
1.79      matthew   191:     my $c = $r->connection();
1.82      matthew   192:     my ($resource,$partid,$respid) = ($problem->{'resource'},
                    193:                                       $problem->{'part'},
                    194:                                       $problem->{'respid'});
                    195:     #
                    196:     if (scalar(@{$resource->{'parts'}})>1) {
                    197:         if (@{$resource->{'partdata'}->{$partid}->{'ResponseIds'}}>1) {
                    198:             $r->print('<h3>'.
                    199:                       &mt('Part [_1], response [_2].',$partid,$respid).
                    200:                       '</h3>');
                    201:         } else { 
                    202:             $r->print('<h3>'.
                    203:                       &mt('Part [_1]',$partid,$respid).
                    204:                       '</h3>');
                    205:         }
                    206:     } elsif (@{$resource->{'partdata'}->{$partid}->{'ResponseIds'}}>1) {
                    207:         $r->print('<h3>'.&mt('Response [_1]',$respid).'</h3>');
                    208:     }
                    209:     #
1.66      matthew   210:     my $analysis_html;
1.82      matthew   211:     my $PerformanceData = &Apache::loncoursedata::get_response_data
                    212:         (\@Apache::lonstatistics::SelectedSections,
                    213:          $Apache::lonstatistics::enrollment_status,
                    214:          $resource->{'symb'},$respid);
1.66      matthew   215:     if (! defined($PerformanceData) || 
                    216:         ref($PerformanceData) ne 'ARRAY' ) {
                    217:         $analysis_html = '<h2>'.
                    218:             &mt('There is no submission data for this resource').
                    219:             '</h2>';
                    220:         $r->print($analysis_html);
                    221:         return;
                    222:     }
1.78      matthew   223:     #
                    224:     # This next call causes all the waiting around that people complain about
1.94      matthew   225:     &Apache::lonstathelpers::GetStudentAnswers($r,$problem,$Students,
                    226:                                                'Statistics',
                    227:                                                'stats_status');
1.79      matthew   228:     return if ($c->aborted());
1.78      matthew   229:     #
                    230:     # Collate the data
1.68      matthew   231:     my %Data;
                    232:     foreach my $student (@$Students) {
                    233:         my $answer = $student->{'answer'};
                    234:         $Data{$answer}++;
                    235:     }
                    236:     my @Labels = sort {$a <=> $b } keys(%Data);
                    237:     my @PlotData = @Data{@Labels};
1.78      matthew   238:     #
                    239:     my $width  = 500; 
                    240:     my $height = 100;
                    241:     my $plot = &one_dimensional_plot($r,500,100,scalar(@$Students),
                    242:                                      \@Labels,\@PlotData);
                    243:     $r->print($plot);
1.68      matthew   244:     return;
1.66      matthew   245: }
                    246: 
1.78      matthew   247: sub one_dimensional_plot {
                    248:     my ($r,$width,$height,$N,$Labels,$Data)=@_;
                    249:     #
                    250:     # Compute data -> image scaling factors
                    251:     my $min = $Labels->[0];
                    252:     my $max = $Labels->[-1];
1.82      matthew   253:     if ($max == $min) {
                    254:         $max =$min+1;
                    255:     }
1.78      matthew   256:     my $h_scale = ($width-10)/($max-$min);
                    257:     #
                    258:     my $max_y = 0;
                    259:     foreach (@$Data) {
                    260:         $max_y = $_ if ($max_y < $_);
                    261:     }
                    262:     my $ticscale = 5;
                    263:     if ($max_y * $ticscale > $height/2) {
                    264:         $ticscale = int($height/2/$max_y);
                    265:         $ticscale = 1 if ($ticscale < 1);
                    266:     }
                    267:     #
                    268:     # Create the plot
                    269:     my $plot = 
                    270:         qq{<drawimage width="$width" height="$height" bgcolor="transparent" >};
                    271:     for (my $idx=0;$idx<scalar(@$Labels);$idx++) {
                    272:         my $xloc = 5+$h_scale*($Labels->[$idx] - $min);
                    273:         my $top    = $height/2-$Data->[$idx]*$ticscale;
                    274:         my $bottom = $height/2+$Data->[$idx]*$ticscale;
                    275:         $plot .= 
                    276:             &line($xloc,$top,$xloc,$bottom,'888888',1);
                    277:     }
                    278:     #
                    279:     # Put the scale on last to ensure it is on top of the data.
                    280:     if ($min < 0 && $max > 0) {
                    281:         my $circle_x = 5+$h_scale*abs($min);  # '0' in data coordinates
                    282:         my $r = 4;
                    283:         $plot .= &line(5,$height/2,$circle_x-$r,$height/2,'000000',1);
                    284:         $plot .= &circle($circle_x,$height/2,$r+1,'000000');
                    285:         $plot .= &line($circle_x+$r,$height/2,$width-5,$height/2,'000000',1);
                    286:     } else {
                    287:         $plot .= &line(5,$height/2,$width-5,$height/2,'000000',1);
                    288:     }
                    289:     $plot .= '</drawimage>';
                    290:     my $plotresult =  &Apache::lonxml::xmlparse($r,'web',$plot);
                    291:     
                    292:     my $title = 'Distribution of correct answers';
                    293:     my $result = '<table>'.
                    294:         '<tr><td colspan="3" align="center">'.
                    295:         '<font size="+2">'.$title.' (N='.$N.')'.
                    296:         '</font>'.
                    297:         '</td></tr>'.
                    298:         '<tr>'.
                    299:         '<td valign="center">'.$min.'</td>'.
                    300:         '<td>'.$plotresult.'</td>'.
                    301:         '<td valign="center">'.$max.'</td>'.
                    302:         '</tr>'.
                    303:         '<tr><td colspan="3" align="center">'.
                    304:         'Maximum Number of Coinciding Values: '.$max_y.
                    305:         '</td></tr>'.
                    306:         '</table>';
                    307:     return $result;
                    308: }
                    309: 
                    310: ##
                    311: ## Helper subroutines for <drawimage>.  
                    312: ## These should probably go somewhere more suitable soon.
                    313: sub line {
                    314:     my ($x1,$y1,$x2,$y2,$color,$thickness) = @_;
                    315:     return qq{<line x1="$x1" y1="$y1" x2="$x2" y2="$y2" color="$color" thickness="$thickness" />$/};
                    316: }
                    317: 
1.82      matthew   318: sub text {
                    319:     my ($x,$y,$color,$text,$font,$direction) = @_;
                    320:     if (! defined($font) || $font !~ /^(tiny|small|medium|large|giant)$/) {
                    321:         $font = 'medium';
                    322:     }
                    323:     if (! defined($direction) || $direction ne 'vertical') {
                    324:         $direction = '';
                    325:     }
                    326:     return qq{<text x="$x" y="$y" color="$color" font="$font" direction="$direction" >$text</text>};
                    327: }
                    328: 
1.78      matthew   329: sub rectangle {
                    330:     my ($x1,$y1,$x2,$y2,$color,$thickness,$filled) = @_;
                    331:     return qq{<rectangle x1="$x1" y1="$y1" x2="$x2" y2="$y2" color="$color" thickness="$thickness" filled="$filled" />};
                    332: }
                    333: 
                    334: sub arc {
                    335:     my ($x,$y,$width,$height,$start,$end,$color,$thickness,$filled)=@_;
                    336:     return qq{<arc x="$x" y="$y" width="$width" height="$height" start="$start" end="$end" color="$color" thickness="$thickness" filled="$filled" />};
                    337: }
                    338: 
                    339: sub circle {
                    340:     my ($x,$y,$radius,$color,$thickness,$filled)=@_;
                    341:     return &arc($x,$y,$radius,$radius,0,360,$color,$thickness,$filled);
1.68      matthew   342: }
                    343: 
                    344: sub build_student_data_worksheet {
                    345:     my ($workbook,$format) = @_;
                    346:     my $rows_output = 3;
                    347:     my $cols_output = 0;
                    348:     my $worksheet  = $workbook->addworksheet('Student Data');
                    349:     $worksheet->write($rows_output++,0,'Student Data',$format->{'h3'});
                    350:     my @Headers = ('full name','username','domain','section',
                    351:                    "student\nnumber",'identifier');
                    352:     $worksheet->write_row($rows_output++,0,\@Headers,$format->{'header'});
                    353:     my @Students = @Apache::lonstatistics::Students;
                    354:     my $studentrows = &Apache::loncoursedata::get_student_data(\@Students);
                    355:     my %ids;
                    356:     foreach my $row (@$studentrows) {
                    357:         my ($mysqlid,$student) = @$row;
                    358:         $ids{$student}=$mysqlid;
                    359:     }
                    360:     foreach my $student (@Students) {
                    361:         my $name_domain = $student->{'username'}.':'.$student->{'domain'};
                    362:         $worksheet->write_row($rows_output++,0,
                    363:                           [$student->{'fullname'},
                    364:                            $student->{'username'},$student->{'domain'},
                    365:                            $student->{'section'},$student->{'id'},
                    366:                            $ids{$name_domain}]);
                    367:     }
                    368:     return $worksheet;
1.66      matthew   369: }
1.47      matthew   370: 
                    371: #########################################################
                    372: #########################################################
                    373: ##
                    374: ##      Radio Response Routines
                    375: ##
                    376: #########################################################
                    377: #########################################################
1.97      matthew   378: sub radio_response_analysis {
1.94      matthew   379:     my ($r,$problem,$problem_analysis,$students) = @_;
1.97      matthew   380:     #
                    381:     if ($ENV{'form.AnalyzeOver'} !~ /^(tries|time)$/) {
1.94      matthew   382:         $r->print('Bad request');
                    383:     }
1.97      matthew   384:     #
1.94      matthew   385:     my ($resource,$partid,$respid) = ($problem->{'resource'},
                    386:                                       $problem->{'part'},
                    387:                                       $problem->{'respid'});
                    388:     #
                    389:     my $analysis_html;
                    390:     my $foildata = $problem_analysis->{'_Foils'};
                    391:     my ($table,$foils,$concepts) = &build_foil_index($problem_analysis);
1.97      matthew   392:     #
1.98    ! matthew   393:     my %true_foils;
1.97      matthew   394:     my $num_true = 0;
1.98    ! matthew   395:     if (! $problem_analysis->{'answercomputed'}) {
        !           396:         foreach my $foil (@$foils) {
        !           397:             if ($foildata->{$foil}->{'value'} eq 'true') {
        !           398:                 $true_foils{$foil}++; 
        !           399:             }
1.97      matthew   400:         }
1.98    ! matthew   401:         $num_true = scalar(keys(%true_foils));
1.97      matthew   402:     }
                    403:     #
1.94      matthew   404:     $analysis_html .= $table;
                    405:     # Gather student data
                    406:     my $response_data = &Apache::loncoursedata::get_response_data
                    407:         (\@Apache::lonstatistics::SelectedSections,
                    408:          $Apache::lonstatistics::enrollment_status,
                    409:          $resource->{'symb'},$respid);
                    410:     my $correct;   # either a hash reference or a scalar
                    411:     if ($problem_analysis->{'answercomputed'} || scalar(@$concepts) > 1) {
                    412:         # This takes a while for large classes...
                    413:         &Apache::lonstathelpers::GetStudentAnswers($r,$problem,$students,
                    414:                                                    'Statistics',
                    415:                                                    'stats_status');
                    416:         foreach my $student (@$students) {
                    417:             my ($idx,@remainder) = split('&',$student->{'answer'});
                    418:             my ($answer) = ($remainder[$idx]=~/^(.*)=([^=]*)$/);
                    419:             $correct->{$student->{'username'}.':'.$student->{'domain'}}=
                    420:                 &Apache::lonnet::unescape($answer);
                    421:         }
                    422:     } else {
                    423:         foreach my $foil (keys(%$foildata)) {
                    424:             if ($foildata->{$foil}->{'value'} eq 'true') {
                    425:                 $correct = $foildata->{$foil}->{'name'};
                    426:             }
                    427:         }
                    428:     }
1.97      matthew   429:     #
                    430:     if (! defined($response_data) || ref($response_data) ne 'ARRAY' ) {
1.94      matthew   431:         $analysis_html = '<h2>'.
                    432:             &mt('There is no submission data for this resource').
                    433:             '</h2>';
                    434:         $r->print($analysis_html);
                    435:         return;
                    436:     }
                    437:     #
                    438:     $analysis_html.='<table>';
1.97      matthew   439:     for (my $plot_num = 1;$plot_num<=$ENV{'form.NumPlots'};$plot_num++) {
1.94      matthew   440:         # classify data ->correct foil -> selected foil
1.97      matthew   441:         my ($restriction_function,
                    442:             $correct_foil_title,$incorrect_foil_title,
                    443:             $pre_graph_text,$post_graph_text,
                    444:             $no_data_text,@extra_data);
                    445:         if ($ENV{'form.AnalyzeOver'} eq 'tries') {
                    446:             $restriction_function = sub {($_[0]->{'tries'} == $plot_num?1:0)};
                    447:             $correct_foil_title = 'Attempt '.$plot_num;
                    448:             $incorrect_foil_title = 'Attempt '.$plot_num;
                    449:             $pre_graph_text = 
                    450:                 'Attempt [_1], [_2] submissions, [_3] correct, [_4] incorrect';
                    451:             $post_graph_text = '';
                    452:             $no_data_text = 'No data exists for attempt [_1]';
                    453:         } elsif ($ENV{'form.AnalyzeOver'} eq 'time') {
                    454:             my $starttime = &Apache::lonhtmlcommon::get_date_from_form
                    455:                 ('startdate_'.$plot_num);
                    456:             my $endtime = &Apache::lonhtmlcommon::get_date_from_form
                    457:                 ('enddate_'.$plot_num);
                    458:             ($starttime,$endtime) = &ensure_start_end_times
                    459:                 ($starttime,$endtime,
                    460:                  &get_time_from_row($response_data->[0]),
                    461:                  &get_time_from_row($response_data->[-1]),
                    462:                  $plot_num);
                    463:             $pre_graph_text = 
                    464:                 'Data from [_5] to [_6], [_2] submissions, [_3] correct, [_4] incorrect';
                    465:             $extra_data[0] = &Apache::lonlocal::locallocaltime($starttime);
                    466:             $extra_data[1] = &Apache::lonlocal::locallocaltime($endtime);
                    467:             #
                    468:             $post_graph_text = 
                    469:                 &mt('Start time: [_1]',
                    470:                     &Apache::lonhtmlcommon::date_setter
                    471:                     ('Statistics','startdate_'.$plot_num,$starttime)).
                    472:                 '<br />'.
                    473:                 &mt('End time: [_1]',
                    474:                     &Apache::lonhtmlcommon::date_setter
                    475:                     ('Statistics','enddate_'.$plot_num,$endtime));
                    476:             $restriction_function = 
                    477:                 sub { 
                    478:                     my $t = $_[0]->{'timestamp'};
                    479:                     if ($t >= $starttime && $t < $endtime) {
                    480:                         return 1;
                    481:                     } else { 
                    482:                         return 0;
                    483:                     }
                    484:                 };
                    485:             $no_data_text = 'No data for [_5] to [_6]';
                    486:         }
                    487:         my $foil_choice_data =
1.94      matthew   488:             &RR_classify_response_data($response_data,$correct,
1.97      matthew   489:                                        $restriction_function);
                    490:         # &Apache::lonstathelpers::log_hash_ref($foil_choice_data);
1.94      matthew   491:         my $answers;
                    492:         if (ref($correct)) {
                    493:             my %tmp;
                    494:             foreach my $foil (values(%$correct)) {
                    495:                 $tmp{$foil}++;
                    496:             }
                    497:             $answers = [keys(%tmp)];
                    498:         } else {
                    499:             $answers = [$correct];
                    500:         }
                    501:         # Concept Plot
                    502:         my $concept_plot = '';
                    503:         if (scalar(@$concepts) > 1) {
                    504:             $concept_plot = &RR_concept_plot($concepts,$foil_choice_data,
1.97      matthew   505:                                              'Correct Concepts');
1.94      matthew   506:         }
                    507:         # % Choosing plot
                    508:         my $choice_plot = &RR_create_percent_selected_plot
1.97      matthew   509:             ($concepts,$foils,$foil_choice_data,$correct_foil_title);
1.94      matthew   510:         # for each correct foil, how did they mark it? (stacked bar graph)
1.97      matthew   511:         my ($stacked_plot,$count_by_foil);
                    512:         if ($problem_analysis->{'answercomputed'} || $num_true > 1) {
                    513:             ($stacked_plot,$count_by_foil) =
                    514:                 &RR_create_stacked_selection_plot($foils,$foil_choice_data,
1.98    ! matthew   515:                                                   $incorrect_foil_title,
        !           516:                                                   \%true_foils);
1.97      matthew   517:         }
1.94      matthew   518:         #
                    519:         if ($concept_plot ne '' ||
1.97      matthew   520:             $choice_plot  ne '' ||
1.94      matthew   521:             $stacked_plot ne '') {
1.97      matthew   522:             my $correct = $foil_choice_data->{'_correct'};
                    523:             if (! defined($correct) || $correct eq '') {
                    524:                 $correct = 0;
                    525:             }
                    526:             my $incorrect = 
                    527:             $analysis_html.= '<tr><td colspan="4" align="center">'.
                    528:                 '<font size="+1">'.
                    529:                 &mt($pre_graph_text,
                    530:                     $plot_num,$foil_choice_data->{'_count'},
                    531:                     $correct,                    
                    532:                     $foil_choice_data->{'_count'}-$correct,
                    533:                     @extra_data).
                    534:                     '</td></tr>'.$/;
1.94      matthew   535:             $analysis_html.=
                    536:                 '<tr>'.
                    537:                 '<td>'.$concept_plot.'</td>'.
                    538:                 '<td>'.$choice_plot.'</td>';
                    539:             if ($stacked_plot ne '') {
                    540:                 $analysis_html .= 
1.97      matthew   541:                     '<td>'.$stacked_plot.'</td>'.
                    542:                     '<td>'.&build_foil_key($foils,$count_by_foil).'</td>';
1.94      matthew   543:             } else {
                    544:                 $analysis_html .= ('<td></td>'x2);
                    545:             }
                    546:             $analysis_html.='</tr>'.$/;
1.97      matthew   547:             if (defined($post_graph_text)) {
                    548:                 $analysis_html.= '<tr><td colspan="4" align="center">'.
                    549:                     $post_graph_text.'</td></tr>'.$/;
                    550:             }
                    551:         } elsif ($no_data_text ne '') {
                    552:             $analysis_html.='<tr><td colspan="4" align="center">'.
                    553:                 &mt($no_data_text,
                    554:                     $plot_num,$foil_choice_data->{'_count'},
                    555:                     $correct,                    
                    556:                     $foil_choice_data->{'_count'}-$correct,
                    557:                     @extra_data);
                    558:             if (defined($post_graph_text)) {
                    559:                 $analysis_html.='<br />'.$post_graph_text;
                    560:             }
                    561:             $analysis_html.='</td></tr>'.$/;
1.94      matthew   562:         }
1.97      matthew   563:     } # end of loop for plots
1.94      matthew   564:     $analysis_html.='</table>';
                    565:     $r->print($analysis_html);
                    566: }
                    567: 
1.97      matthew   568: sub ensure_start_end_times {
                    569:     my ($start,$end,$first,$last,$plot_num) = @_;
                    570:     if (! defined($start) || ! defined($end)) {
                    571:         my $sec_in_day = 86400;
                    572:         my ($sday,$smon,$syear) = 
                    573:             (localtime($last - $sec_in_day*($plot_num-1)))[3..5];
                    574:         $start = &Time::Local::timelocal(0,0,0,$sday,$smon,$syear);
                    575:         $end   = $start + $sec_in_day;
                    576:         if ($plot_num == $ENV{'form.NumPlots'}) {
                    577:             $start = $first;
                    578:         }
                    579:     }
                    580:     return ($start,$end);
                    581: }
1.94      matthew   582: 
                    583: sub RR_concept_plot {
                    584:     my ($concepts,$foil_data,$title) = @_;
                    585:     #
                    586:     my %correct_by_concept;
                    587:     my %incorrect_by_concept;
                    588:     my %true;
                    589:     foreach my $concept (@$concepts) {
                    590:         foreach my $foil (@{$concept->{'foils'}}) {
                    591:             next if (! exists($foil_data->{$foil}));
                    592:             foreach my $choice (keys(%{$foil_data->{$foil}})) {
                    593:                 if ($choice eq $foil) {
                    594:                     $correct_by_concept{$concept->{'name'}} +=
                    595:                         $foil_data->{$foil}->{$choice};
                    596:                 } else {
                    597:                     $incorrect_by_concept{$concept->{'name'}} +=
                    598:                         $foil_data->{$foil}->{$choice};
                    599:                     
                    600:                 }
                    601:             }
                    602:         }
                    603:     }
                    604:     # 
                    605:     # need arrays for incorrect and correct because we want to use different
                    606:     # colors for them
                    607:     my @correct;
                    608:     #
                    609:     my $total =0;
                    610:     for (my $i=0;$i<scalar(@$concepts);$i++) {
                    611:         my $concept = $concepts->[$i];
                    612:         $correct[$i]   =   $correct_by_concept{$concept->{'name'}};
                    613:         $total += $correct_by_concept{$concept->{'name'}}+
                    614:             $incorrect_by_concept{$concept->{'name'}};
                    615:     }
                    616:     if ($total == 0) { return ''; };
                    617:     for (my $i=0;$i<=$#correct;$i++) { 
                    618:         $correct[$i] = sprintf('%0f',$correct[$i]/$total*100);
                    619:     }
                    620:     my $xlabel = 'concept';
                    621:     my $plot=  &Apache::loncommon::DrawBarGraph($title,
                    622:                                                 $xlabel,
                    623:                                                 'Percent Choosing',
                    624:                                                 100,
                    625:                                                 ['#33ff00','#ff3300'],
                    626:                                                 undef,
                    627:                                                 \@correct);
                    628:     return $plot;
                    629: }
                    630: 
                    631: sub RR_create_percent_selected_plot {
1.97      matthew   632:     my ($concepts,$foils,$foil_data,$title) = @_;
1.94      matthew   633:     #
                    634:     my %foil_selections;
                    635:     my %true;
                    636:     foreach my $foil (@$foils) {
                    637:         # foil_data has format $foil_data->{true_foil}->{selected foil}
                    638:         next if (! exists($foil_data->{$foil}));
                    639:         $true{$foil}++;
                    640:         while (my ($f,$count)= each(%{$foil_data->{$foil}})) {
                    641:             $foil_selections{$f}+=$count;
                    642:         }
                    643:     }
                    644:     # 
                    645:     # need arrays for incorrect and correct because we want to use different
                    646:     # colors for them
                    647:     my @correct;
                    648:     my @incorrect;
                    649:     #
                    650:     my $total =0;
                    651:     for (my $i=0;$i<scalar(@$foils);$i++) {
                    652:         my $foil = $foils->[$i];
                    653:         if ($true{$foil}) {
                    654:             $correct[$i]   = $foil_selections{$foil};
                    655:             $incorrect[$i] = 0;
                    656:         } else {
                    657:             $correct[$i]   = 0;
                    658:             $incorrect[$i] = $foil_selections{$foil};
                    659:         }
                    660:         $total+=$foil_selections{$foil};
                    661:     }
                    662:     if ($total == 0) { return ''; };
                    663:     for (my $i=0;$i<=$#correct;$i++) { 
                    664:         $correct[$i] = sprintf('%0f',$correct[$i]/$total*100);
                    665:     }
                    666:     for (my $i=0;$i<=$#incorrect;$i++) {
                    667:         $incorrect[$i] = sprintf('%0f',$incorrect[$i]/$total*100);
                    668:     }
1.97      matthew   669:     #
                    670:     # Put a blank in the data sets between concepts, if there are concepts
                    671:     my @labels;
                    672:     if (defined($concepts) && scalar(@$concepts) > 1) {
                    673:         my @new_correct;
                    674:         my @new_incorrect;
                    675:         my $foil_count = 0;
                    676:         foreach my $concept (@$concepts) {
                    677:             foreach (@{$concept->{'foils'}}) {
                    678:                 push(@new_correct,  $correct[$foil_count]);
                    679:                 push(@new_incorrect,$incorrect[$foil_count]);
                    680:                 push(@labels,++$foil_count);
                    681:             }
                    682:             push(@new_correct,'');
                    683:             push(@new_incorrect,'');
                    684:             push(@labels,'');
                    685:         }
                    686:         @correct = @new_correct;
                    687:         @incorrect = @new_incorrect;
                    688:     } else {
                    689:         @labels = (1 .. scalar(@correct));
                    690:     }
                    691:     #
1.94      matthew   692:     my $xlabel = 'foil chosen';
                    693:     my $plot=  &Apache::loncommon::DrawBarGraph($title,
                    694:                                                 $xlabel,
                    695:                                                 'Percent Choosing',
                    696:                                                 100,
                    697:                                                 ['#33ff00','#ff3300'],
1.97      matthew   698:                                                 \@labels,
1.94      matthew   699:                                                 \@correct,
                    700:                                                 \@incorrect);
                    701:     return $plot;
                    702: }
                    703: 
                    704: sub RR_create_stacked_selection_plot {
1.98    ! matthew   705:     my ($foils,$foil_data,$title,$true_foils)=@_;
1.94      matthew   706:     #
1.97      matthew   707:     my @dataset; # array of array refs - multicolor rows $datasets[row]->[col]
1.94      matthew   708:     my @labels;
1.97      matthew   709:     my $count;
                    710:     my %column; # maps foil name to column in @datasets
1.94      matthew   711:     for (my $i=0;$i<scalar(@$foils);$i++) {
1.98    ! matthew   712:         my $foil = $foils->[$i];
        !           713:         if (defined($true_foils) && scalar(keys(%$true_foils)) > 0 ) {
        !           714:             next if (! $true_foils->{$foil} );
        !           715:             push(@labels,$i+1);
        !           716:         } else {
        !           717:             next if (! exists($foil_data->{$foil}));
        !           718:             push(@labels,$i+1);
        !           719:         }
1.94      matthew   720:         next if (! exists($foil_data->{$foils->[$i]}));
1.98    ! matthew   721:         $column{$foil}= $count++;
1.94      matthew   722:         for (my $j=0;$j<scalar(@$foils);$j++) {
                    723:             my $value = 0;
                    724:             if ($i != $j ) {
1.98    ! matthew   725:                 $value += $foil_data->{$foil}->{$foils->[$j]};
1.94      matthew   726:             }
1.98    ! matthew   727:             $dataset[$j]->[$column{$foil}]=$value;
1.94      matthew   728:         }
                    729:     }
                    730:     #
                    731:     return '' if (! scalar(keys(%column)));
                    732:     #
                    733:     my $grand_total = 0;
                    734:     my %count_per_foil;
                    735:     while (my ($foil,$bar) = each (%column)) {
                    736:         my $bar_total = 0;
                    737:         for (my $j=0;$j<scalar(@dataset);$j++) {
                    738:             $bar_total += $dataset[$j]->[$bar];
                    739:         }
                    740:         next if ($bar_total == 0);
                    741:         for (my $j=0;$j<scalar(@dataset);$j++) {
                    742:             $dataset[$j]->[$bar] = 
                    743:                 sprintf('%2f',$dataset[$j]->[$bar]/$bar_total * 100);
                    744:         }
1.97      matthew   745:         $count_per_foil{$foil}=' ( '.$bar_total.' )';
1.94      matthew   746:         $grand_total += $bar_total;
                    747:     }
                    748:     if ($grand_total == 0) {
                    749:         return ('',undef);
                    750:     }
                    751:     my @empty_row = ();
                    752:     foreach (@{$dataset[0]}) {
                    753:         push(@empty_row,0);
                    754:     }
                    755:     #
                    756:     my $graph = &Apache::loncommon::DrawBarGraph
                    757:         ($title,'Correct Foil','foils chosen Incorrectly',
                    758:          100,$plotcolors,\@labels,\@empty_row,@dataset);
                    759:     return ($graph,\%count_per_foil);
                    760: }
                    761: 
                    762: # if $correct is a hash ref, it is assumed to be indexed by student names.
                    763: #    the values are assumed to be hash refs with a key of 'answer'.
                    764: sub RR_classify_response_data {
                    765:     my ($full_row_data,$correct,$function) = @_;
                    766:     my %submission_data;
                    767:     foreach my $row (@$full_row_data) {
                    768:         my %subm = &hashify_attempt($row);
                    769:         if (ref($correct) eq 'HASH') {
                    770:             $subm{'correct'} = $correct->{$subm{'student'}};
                    771:         } else {
                    772:             $subm{'correct'} = $correct;
                    773:         }
                    774:         $subm{'submission'} =~ s/=\d+\s*$//;
                    775:         if (&$function(\%subm)) {
1.97      matthew   776:             $submission_data{'_count'}++;
                    777:             if (&submission_is_correct($subm{'award'})) { 
                    778:                 $submission_data{'_correct'}++;
                    779:             }
1.94      matthew   780:             $submission_data{$subm{'correct'}}->{$subm{'submission'}}++;
                    781:         }
                    782:     }
                    783:     return \%submission_data;
                    784: }
                    785: 
                    786: 
1.33      matthew   787: #########################################################
                    788: #########################################################
                    789: ##
1.46      matthew   790: ##      Option Response Routines
1.33      matthew   791: ##
                    792: #########################################################
                    793: #########################################################
1.46      matthew   794: sub OptionResponseAnalysis {
1.88      matthew   795:     my ($r,$problem,$problem_data,$Students) = @_;
1.56      matthew   796:     my ($resource,$respid) = ($problem->{'resource'},
                    797:                               $problem->{'respid'});
                    798:     # Note: part data is not needed.
1.82      matthew   799:     my $PerformanceData = &Apache::loncoursedata::get_response_data
                    800:         (\@Apache::lonstatistics::SelectedSections,
                    801:          $Apache::lonstatistics::enrollment_status,
                    802:          $resource->{'symb'},$respid);
1.46      matthew   803:     if (! defined($PerformanceData) || 
                    804:         ref($PerformanceData) ne 'ARRAY' ) {
                    805:         $r->print('<h2>'.
                    806:                   &mt('There is no student data for this problem.').
                    807:                   '</h2>');
                    808:     }  else {
                    809:         $r->rflush();
                    810:         if (exists($ENV{'form.ExcelOutput'})) {
1.57      matthew   811:             my $result = &OR_excel_sheet($r,$resource,
                    812:                                          $PerformanceData,
1.88      matthew   813:                                          $problem_data);
1.46      matthew   814:             $r->print($result);
                    815:             $r->rflush();
1.39      matthew   816:         } else {
1.94      matthew   817:             if ($ENV{'form.AnalyzeOver'} eq 'tries') {
1.57      matthew   818:                 my $analysis_html = &OR_tries_analysis($r,
1.46      matthew   819:                                                     $PerformanceData,
1.88      matthew   820:                                                     $problem_data);
1.46      matthew   821:                 $r->print($analysis_html);
                    822:                 $r->rflush();
1.94      matthew   823:             } elsif ($ENV{'form.AnalyzeOver'} eq 'time') {
1.57      matthew   824:                 my $analysis_html = &OR_time_analysis($PerformanceData,
1.88      matthew   825:                                                    $problem_data);
1.46      matthew   826:                 $r->print($analysis_html);
                    827:                 $r->rflush();
1.39      matthew   828:             } else {
1.46      matthew   829:                 $r->print('<h2>'.
                    830:                           &mt('The analysis you have selected is '.
                    831:                               'not supported at this time').
                    832:                           '</h2>');
                    833:             }
1.36      matthew   834:         }
1.39      matthew   835:     }
                    836: }
                    837: 
1.33      matthew   838: #########################################################
1.46      matthew   839: #
1.94      matthew   840: #       Option Response:  tries Analysis
1.46      matthew   841: #
1.33      matthew   842: #########################################################
1.57      matthew   843: sub OR_tries_analysis {
1.43      matthew   844:     my ($r,$PerformanceData,$ORdata) = @_;
1.33      matthew   845:     my $mintries = 1;
                    846:     my $maxtries = $ENV{'form.NumPlots'};
1.39      matthew   847:     my ($table,$Foils,$Concepts) = &build_foil_index($ORdata);
1.88      matthew   848:     my %response_data = &OR_analyze_by_tries($r,$PerformanceData,
1.36      matthew   849:                                                      $mintries,$maxtries);
1.42      matthew   850:     my $analysis = '';
1.31      matthew   851:     #
1.88      matthew   852:     # Compute the data necessary to make the plots
                    853:     my @foil_plot; 
                    854:     my @concept_data;
                    855:     for (my $j=0;$j<=scalar(@$Concepts);$j++) {
                    856:         my $concept = $Concepts->[$j];
1.75      matthew   857:         foreach my $foilid (@{$concept->{'foils'}}) {
1.76      matthew   858:             for (my $try=$mintries;$try<=$maxtries;$try++) {
1.88      matthew   859:                 # concept analysis data
1.93      matthew   860:                 $concept_data[$j]->[$try]->{'_correct'} +=
1.88      matthew   861:                     $response_data{$foilid}->[$try]->{'_correct'};
1.93      matthew   862:                 $concept_data[$j]->[$try]->{'_total'} +=
1.88      matthew   863:                     $response_data{$foilid}->[$try]->{'_total'};
                    864:                 #
                    865:                 # foil analysis data
                    866:                 if ($response_data{$foilid}->[$try]->{'_total'} == 0) {
                    867:                     push(@{$foil_plot[$try]->{'_correct'}},0);
1.42      matthew   868:                 } else {
1.88      matthew   869:                     push(@{$foil_plot[$try]->{'_correct'}},
                    870:                          100*$response_data{$foilid}->[$try]->{'_correct'}/
                    871:                          $response_data{$foilid}->[$try]->{'_total'});
1.75      matthew   872:                 }
                    873:                 foreach my $option (@{$ORdata->{'_Options'}}) {
1.88      matthew   874:                     push(@{$foil_plot[$try]->{'_total'}},
                    875:                          $response_data{$foilid}->[$try]->{'_total'});
                    876:                     if ($response_data{$foilid}->[$try]->{'_total'} == 0) {
                    877:                         push (@{$foil_plot[$try]->{$option}},0);
1.39      matthew   878:                     } else {
1.88      matthew   879:                         if ($response_data{$foilid}->[$try]->{'_total'} ==
                    880:                             $response_data{$foilid}->[$try]->{'_correct'}) {
                    881:                             push(@{$foil_plot[$try]->{$option}},0);
1.75      matthew   882:                         } else {
1.88      matthew   883:                             push (@{$foil_plot[$try]->{$option}},
1.76      matthew   884:                                   100 * 
1.88      matthew   885:                                   $response_data{$foilid}->[$try]->{$option} / 
                    886:                                   ($response_data{$foilid}->[$try]->{'_total'} 
1.76      matthew   887:                                    - 
1.88      matthew   888:                                    $response_data{$foilid}->[$try]->{'_correct'}
1.76      matthew   889:                                    ));
1.75      matthew   890:                         }
1.39      matthew   891:                     }
1.76      matthew   892:                 } # End of foreach my $option
1.36      matthew   893:             }
1.76      matthew   894:         } # End of foreach my $foilid
1.88      matthew   895:     } # End of concept loops
1.42      matthew   896:     # 
                    897:     # Build a table for the plots
1.96      matthew   898:     my $analysis_html = "<br /><table>\n";
1.75      matthew   899:     my $optionkey = &build_option_index($ORdata);
1.88      matthew   900:     my $num_concepts = 1;
                    901:     if (defined($Concepts)) { $num_concepts = scalar(@$Concepts); }
                    902:     #
1.75      matthew   903:     for (my $try=$mintries;$try<=$maxtries;$try++) {
1.92      matthew   904:         if (! defined($response_data{'_total'}->[$try]) ||
                    905:             $response_data{'_total'}->[$try] == 0) { 
                    906:             if ($try > 1) {
                    907:                 $analysis_html.= '<tr><td align="center" colspan="4"><b>'.
                    908:                     &mt('None of the selected students attempted the problem more than [_1] times.',$try-1).
                    909:                     '</b></td></tr>';
                    910:             } else {
                    911:                 $analysis_html.= '<tr><td colspan="4" align="center"><b>'.
                    912:                     &mt('None of the selected students have attempted the problem').'</b></td></tr>';
                    913:             }
                    914:             last;
                    915:         }
1.88      matthew   916:         my $concept_graph='';
                    917:         if ($num_concepts > 1) {
                    918:             #
                    919:             # Create concept plot
                    920:             my @concept_plot_data;
                    921:             for (my $j=0;$j<=$#concept_data;$j++) {
1.93      matthew   922:                 my $total = $concept_data[$j]->[$try]->{'_total'};
1.88      matthew   923:                 if ($total == 0) {
                    924:                     $concept_plot_data[$j] = 0;
                    925:                 } else {
                    926:                     $concept_plot_data[$j] = 100 * 
                    927:                         sprintf('%0.3f',
1.93      matthew   928:                                 $concept_data[$j]->[$try]->{'_correct'} / 
                    929:                                 $total);
1.88      matthew   930:                 }
                    931:             }
                    932:             #
                    933:             $concept_graph = &Apache::loncommon::DrawBarGraph
1.96      matthew   934:                 ('Correct Concepts','Concept Number','Percent Correct',
1.88      matthew   935:                  100,$plotcolors,undef,\@concept_plot_data);
                    936:         }
                    937:         #
                    938:         # Create Foil Plots
1.96      matthew   939:         my $data_count = $response_data{'_total'}->[$try];
                    940:         my $correct = $response_data{'_correct'}->[$try];
1.42      matthew   941:         my @Datasets;
1.48      matthew   942:         foreach my $option ('_correct',@{$ORdata->{'_Options'}}) {
1.88      matthew   943:             next if (! exists($foil_plot[$try]->{$option}));
                    944:             push(@Datasets,$foil_plot[$try]->{$option});
1.42      matthew   945:         }
1.76      matthew   946:         #
                    947:         # Put a blank in the data set between concepts
                    948:         for (my $set =0;$set<=$#Datasets;$set++) {
                    949:             my @Data = @{$Datasets[$set]};
                    950:             my $idx = 0;
                    951:             foreach my $concept (@{$Concepts}) {
                    952:                 foreach my $foilid (@{$concept->{'foils'}}) {
                    953:                     $Datasets[$set]->[$idx++]=shift(@Data);
                    954:                 }
                    955:                 if ($concept->{'name'} ne $Concepts->[-1]->{'name'}) {
                    956:                     $Datasets[$set]->[$idx++] = 0;
                    957:                 }
                    958:             }
                    959:         }
                    960:         #
                    961:         # Set up the labels needed for the bar graph
                    962:         my @Labels;
                    963:         my $idx = 1;
                    964:         foreach my $concept (@{$Concepts}) {
                    965:             foreach my $foilid (@{$concept->{'foils'}}) {
                    966:                 push(@Labels,$idx++);
                    967:             }
                    968:             push(@Labels,'');
                    969:         }
                    970:         #
1.88      matthew   971:         my $correct_graph = &Apache::loncommon::DrawBarGraph
1.96      matthew   972:             ('Correct Statements','Statement','% Answered Correct',
1.76      matthew   973:              100,$plotcolors,\@Labels,$Datasets[0]);
1.75      matthew   974:         
                    975:         #
                    976:         #
1.57      matthew   977:         next if (! defined($Datasets[0]));
1.42      matthew   978:         for (my $i=0; $i< scalar(@{$Datasets[0]});$i++) {
                    979:             $Datasets[0]->[$i]=0;
                    980:         }
1.96      matthew   981:         my $count = $response_data{'_total'}->[$try] - 
1.88      matthew   982:                                            $response_data{'_correct'}->[$try];
                    983:         my $incorrect_graph = &Apache::loncommon::DrawBarGraph
1.96      matthew   984:             ('Incorrect Statements','Statement','% Chosen Incorrectly',
1.76      matthew   985:              100,$plotcolors,\@Labels,@Datasets);
1.88      matthew   986:         $analysis_html.= 
1.96      matthew   987:             '<tr><td colspan="4" align="center">'.
                    988:             '<font size="+1">'.
                    989:             &mt('Attempt [_1], [_2] submissions, [_3] correct, [_4] incorrect',
                    990:                 $try,$data_count,$correct,$data_count-$correct).
                    991:             '</font>'.'</td></tr>'.$/.                
1.88      matthew   992:             '<tr>'.
                    993:             '<td>'.$concept_graph.'</td>'.
                    994:             '<td>'.$correct_graph.'</td>'.
                    995:             '<td>'.$incorrect_graph.'</td>'.
                    996:             '<td>'.$optionkey.'<td>'.
                    997:             '</tr>'.$/;
1.42      matthew   998:     }
                    999:     $analysis_html .= "</table>\n";
1.88      matthew  1000:     $table .= $analysis_html;
                   1001:     return $table;
1.25      matthew  1002: }
                   1003: 
1.57      matthew  1004: sub OR_analyze_by_tries {
1.43      matthew  1005:     my ($r,$PerformanceData,$mintries,$maxtries) = @_;
1.25      matthew  1006:     my %Trydata;
                   1007:     $mintries = 1         if (! defined($mintries) || $mintries < 1);
                   1008:     $maxtries = $mintries if (! defined($maxtries) || $maxtries < $mintries);
1.96      matthew  1009:     my @students;
1.26      matthew  1010:     foreach my $row (@$PerformanceData) {
                   1011:         next if (! defined($row));
1.47      matthew  1012:         my $tries = &get_tries_from_row($row);
1.46      matthew  1013:         my %Row   = &Process_OR_Row($row);
1.43      matthew  1014:         next if (! %Row);
1.96      matthew  1015:         my $student_id = $row->[&Apache::loncoursedata::RD_student_id()];
                   1016:         $students[$tries]->{$student_id}++;
1.42      matthew  1017:         while (my ($foilid,$href) = each(%Row)) {
                   1018:             if (! ref($href)) { 
                   1019:                 $Trydata{$foilid}->[$tries] += $href;
                   1020:                 next;
                   1021:             }
                   1022:             while (my ($option,$value) = each(%$href)) {
                   1023:                 $Trydata{$foilid}->[$tries]->{$option}+=$value;
1.25      matthew  1024:             }
                   1025:         }
                   1026:     }
1.96      matthew  1027:     for (my $try=$mintries;$try<=$maxtries;$try++) {
                   1028:         $Trydata{'_studentcount'}->[$try] = scalar(keys(%{$students[$try]}));
                   1029:     }
1.25      matthew  1030:     return %Trydata;
                   1031: }
                   1032: 
1.33      matthew  1033: #########################################################
1.46      matthew  1034: #
                   1035: #     Option Response: Time Analysis
                   1036: #
1.33      matthew  1037: #########################################################
1.57      matthew  1038: sub OR_time_analysis {
1.88      matthew  1039:     my ($performance_data,$ORdata) = @_;
1.42      matthew  1040:     my ($table,$Foils,$Concepts) = &build_foil_index($ORdata);
1.88      matthew  1041:     my $foilkey = &build_option_index($ORdata);
                   1042:     my $num_concepts = 1;
                   1043:     if (defined($Concepts)) { $num_concepts = scalar(@$Concepts); }
                   1044:     #
                   1045:     if ($num_concepts < 2) {
1.42      matthew  1046:         $table = '<h3>'.
                   1047:             &mt('Not enough data for concept analysis.  '.
                   1048:                 'Performing Foil Analysis').
1.88      matthew  1049:                 '</h3>'.$table;
1.42      matthew  1050:     }
1.88      matthew  1051:     #
1.33      matthew  1052:     my $num_plots = $ENV{'form.NumPlots'};
1.88      matthew  1053:     my $num_data = scalar(@$performance_data)-1;
1.42      matthew  1054:     #
1.96      matthew  1055:     my $current_index;
1.37      matthew  1056:     $table .= "<table>\n";
1.33      matthew  1057:     for (my $i=0;$i<$num_plots;$i++) {
1.42      matthew  1058:         ##
1.34      matthew  1059:         my $starttime = &Apache::lonhtmlcommon::get_date_from_form
                   1060:             ('startdate_'.$i);
                   1061:         my $endtime = &Apache::lonhtmlcommon::get_date_from_form
                   1062:             ('enddate_'.$i);
                   1063:         if (! defined($starttime) || ! defined($endtime)) {
1.42      matthew  1064:             my $sec_in_day = 86400;
1.88      matthew  1065:             my $last_sub_time = &get_time_from_row($performance_data->[-1]);
1.96      matthew  1066:             my ($sday,$smon,$syear) = 
                   1067:                 (localtime($last_sub_time - $sec_in_day*$i))[3..5];
1.42      matthew  1068:             $starttime = &Time::Local::timelocal(0,0,0,$sday,$smon,$syear);
                   1069:             $endtime = $starttime + $sec_in_day;
                   1070:             if ($i == ($num_plots -1 )) {
1.88      matthew  1071:                 $starttime = &get_time_from_row($performance_data->[0]);
1.42      matthew  1072:             }
                   1073:         }
1.96      matthew  1074:         $table .= '<tr><td colspan="4" align="center"><font size="+1">'.
1.88      matthew  1075:             &mt('Data from [_1] to [_2]',
                   1076:                 &Apache::lonlocal::locallocaltime($starttime),
1.96      matthew  1077:                 &Apache::lonlocal::locallocaltime($endtime)).
                   1078:                 '</font></td></tr>'.$/;
1.34      matthew  1079:         my $startdateform = &Apache::lonhtmlcommon::date_setter
                   1080:             ('Statistics','startdate_'.$i,$starttime);
                   1081:         my $enddateform = &Apache::lonhtmlcommon::date_setter
                   1082:             ('Statistics','enddate_'.$i,$endtime);
1.42      matthew  1083:         #
                   1084:         my $begin_index;
                   1085:         my $end_index;
                   1086:         my $j;
1.88      matthew  1087:         while (++$j < scalar(@$performance_data)) {
                   1088:             last if (&get_time_from_row($performance_data->[$j]) 
1.46      matthew  1089:                                                               > $starttime);
1.42      matthew  1090:         }
                   1091:         $begin_index = $j;
1.91      matthew  1092:         while ($j < scalar(@$performance_data)) {
                   1093:             if (&get_time_from_row($performance_data->[$j]) > $endtime) {
                   1094:                 last;
                   1095:             } else {
                   1096:                 $j++;
                   1097:             }
1.42      matthew  1098:         }
                   1099:         $end_index = $j;
                   1100:         ##
1.96      matthew  1101:         my ($processed_time_data,$correct,$data_count,$student_count) =
                   1102:             &OR_time_process_data($performance_data,$begin_index,$end_index);
                   1103:         ##
                   1104:         $table .= '<tr><td colspan="4" align="center"><font size="+1">'.
                   1105:             &mt('[_1] submissions from [_2] students submitting, [_3] correct, [_4] incorrect',
                   1106:                 $data_count,$student_count,$correct,$data_count-$correct).
                   1107:                 '</font></td></tr>'.$/;
1.88      matthew  1108:         my $concept_correct_plot = '';
                   1109:         if ($num_concepts > 1) {
                   1110:             $concept_correct_plot = 
1.96      matthew  1111:                 &OR_Concept_Time_Analysis($processed_time_data,
                   1112:                                           $correct,$data_count,$student_count,
                   1113:                                           $ORdata,$Concepts);
1.42      matthew  1114:         }
1.88      matthew  1115:         my ($foil_correct_plot,$foil_incorrect_plot) = 
1.96      matthew  1116:             &OR_Foil_Time_Analysis($processed_time_data,
                   1117:                                    $correct,$data_count,$student_count,
                   1118:                                    $ORdata,$Foils,$Concepts);
1.88      matthew  1119:         $table .= '<tr>'.
                   1120:             '<td>'.$concept_correct_plot.'</td>'.
                   1121:             '<td>'.$foil_correct_plot.'</td>'.
                   1122:             '<td>'.$foil_incorrect_plot.'</td>'.
                   1123:             '<td align="left" valign="top">'.$foilkey.'</td></tr>'.$/;
                   1124:         $table .= '<tr><td colspan="4" align="center">'.
1.96      matthew  1125:             &mt('Start time: [_1]',$startdateform).'<br />'.
                   1126:             &mt('End time: [_1]',$enddateform).'</td></tr>'.$/;
1.88      matthew  1127:         $table.= '<tr><td colspan="4">&nbsp</td></tr>'.$/;
1.33      matthew  1128:     }
1.88      matthew  1129:     $table .= '</table>';
1.42      matthew  1130:     #
1.33      matthew  1131:     return $table;
                   1132: }
                   1133: 
1.57      matthew  1134: sub OR_Foil_Time_Analysis {
1.96      matthew  1135:     my ($processed_time_data,$correct,$data_count,$student_count,
                   1136:         $ORdata,$Foils,$Concepts) = @_;
                   1137:     if ($data_count <= 0) {
                   1138:         return ('<h2>'.&mt('There is no data to plot').'</h2>','');
                   1139:     }
1.42      matthew  1140:     my $analysis_html;
1.88      matthew  1141:     my @plotdata;
                   1142:     my @labels;
                   1143:     foreach my $concept (@{$Concepts}) {
                   1144:         foreach my $foil (@{$concept->{'foils'}}) {
                   1145:             push(@labels,scalar(@labels)+1);
1.96      matthew  1146:             my $total = $processed_time_data->{$foil}->{'_total'};
1.88      matthew  1147:             if ($total == 0) {
                   1148:                 push(@{$plotdata[0]},0);
1.42      matthew  1149:             } else {
1.88      matthew  1150:                 push(@{$plotdata[0]},
1.96      matthew  1151:                      100 * $processed_time_data->{$foil}->{'_correct'} / $total);
1.37      matthew  1152:             }
1.96      matthew  1153:             my $total_incorrect = $total - $processed_time_data->{$foil}->{'_correct'};
1.88      matthew  1154:             for (my $i=0;$i<scalar(@{$ORdata->{'_Options'}});$i++) {
                   1155:                 my $option = $ORdata->{'_Options'}->[$i];
                   1156:                 if ($total_incorrect == 0) {
                   1157:                     push(@{$plotdata[$i+1]},0);
                   1158:                 } else {
                   1159:                     push(@{$plotdata[$i+1]},
1.96      matthew  1160:                          100 * $processed_time_data->{$foil}->{$option} / $total_incorrect);
1.88      matthew  1161:                 }
                   1162:             }
                   1163:         }
                   1164:         # Put in a blank one
                   1165:         push(@labels,'');
                   1166:         push(@{$plotdata[0]},0);
                   1167:         for (my $i=0;$i<scalar(@{$ORdata->{'_Options'}});$i++) {
                   1168:             push(@{$plotdata[$i+1]},0);
1.39      matthew  1169:         }
1.42      matthew  1170:     }
                   1171:     #
                   1172:     # Create the plot
1.96      matthew  1173:     my $correct_plot = &Apache::loncommon::DrawBarGraph('Correct Statements',
                   1174:                                                         'Statement Number',
                   1175:                                                         'Percent Correct',
                   1176:                                                         100,
                   1177:                                                         $plotcolors,
                   1178:                                                         undef,
                   1179:                                                         $plotdata[0]);
1.88      matthew  1180:     for (my $j=0; $j< scalar(@{$plotdata[0]});$j++) {
                   1181:         $plotdata[0]->[$j]=0;
1.42      matthew  1182:     }
1.96      matthew  1183:     my $incorrect_plot = 
                   1184:         &Apache::loncommon::DrawBarGraph('Incorrect Statements',
                   1185:                                          'Statement Number',
                   1186:                                          'Incorrect Option Choice',
                   1187:                                          100,
                   1188:                                          $plotcolors,
                   1189:                                          undef,
                   1190:                                          @plotdata);
1.88      matthew  1191:     return ($correct_plot,$incorrect_plot);
1.42      matthew  1192: }
                   1193: 
1.57      matthew  1194: sub OR_Concept_Time_Analysis {
1.96      matthew  1195:     my ($processed_time_data,$correct,$data_count,$student_count,
                   1196:         $ORdata,$Concepts) = @_;
                   1197:     return '' if ($data_count == 0);
1.33      matthew  1198:     #
1.42      matthew  1199:     # Put the data in plottable form
1.88      matthew  1200:     my @plotdata;
1.42      matthew  1201:     foreach my $concept (@$Concepts) {
                   1202:         my ($total,$correct);
                   1203:         foreach my $foil (@{$concept->{'foils'}}) {
1.96      matthew  1204:             $total += $processed_time_data->{$foil}->{'_total'};
                   1205:             $correct += $processed_time_data->{$foil}->{'_correct'};
1.42      matthew  1206:         }
                   1207:         if ($total == 0) {
1.88      matthew  1208:             push(@plotdata,0);
1.42      matthew  1209:         } else {
1.88      matthew  1210:             push(@plotdata,100 * $correct / $total);
1.42      matthew  1211:         }
                   1212:     }
                   1213:     #
1.33      matthew  1214:     # Create the plot
1.96      matthew  1215:     return &Apache::loncommon::DrawBarGraph('Correct Concepts',
1.88      matthew  1216:                                             'Concept Number',
                   1217:                                             'Percent Correct',
                   1218:                                             100,
                   1219:                                             $plotcolors,
                   1220:                                             undef,
                   1221:                                             \@plotdata);
1.42      matthew  1222: }
                   1223: 
1.96      matthew  1224: sub OR_time_process_data {
                   1225:     my ($performance_data,$begin_index,$end_index)=@_;
                   1226:     my %processed_time_data;
                   1227:     my %distinct_students;
                   1228:     my ($correct,$data_count);
                   1229:     if (($begin_index == $end_index) && 
                   1230:         ($end_index != scalar(@$performance_data)-1)) { 
                   1231:         return undef;
                   1232:     }
                   1233:     # Be sure we include the last one if we are asked for it.
                   1234:     # That we have to correct here (and not when $end_index is 
                   1235:     # given a value) should probably be considered a bug.
                   1236:     if ($end_index == scalar(@$performance_data)-1) {
                   1237:         $end_index++;
                   1238:     }
                   1239:     &Apache::lonnet::logthis('  '.$begin_index.':'.$end_index);
                   1240:     my $count;
                   1241:     for (my $i=$begin_index;$i<$end_index;$i++) {
                   1242:         my $attempt = $performance_data->[$i];
                   1243:         $count++;
                   1244:         next if (! defined($attempt));
                   1245:         my %attempt = &Process_OR_Row($attempt);
                   1246:         $data_count++;
                   1247:         $correct += $attempt{'_correct'};
                   1248:         $distinct_students{$attempt->[&Apache::loncoursedata::RD_student_id()]}++;
                   1249:         while (my ($foilid,$href) = each(%attempt)) {
                   1250:             if (! ref($href)) {
                   1251:                 $processed_time_data{$foilid} += $href;
                   1252:                 next;
                   1253:             }
                   1254:             while (my ($option,$value) = each(%$href)) {
                   1255:                 $processed_time_data{$foilid}->{$option}+=$value;
                   1256:             }
                   1257:         }
                   1258:     }
                   1259:     &Apache::lonnet::logthis('count = '.$count);
                   1260:     return (\%processed_time_data,$correct,$data_count,
                   1261:             scalar(keys(%distinct_students)));
                   1262: }
                   1263: 
1.42      matthew  1264: #########################################################
                   1265: #########################################################
                   1266: ##
                   1267: ##             Excel output 
                   1268: ##
                   1269: #########################################################
                   1270: #########################################################
1.57      matthew  1271: sub OR_excel_sheet {
1.88      matthew  1272:     my ($r,$resource,$performance_data,$ORdata) = @_;
1.44      matthew  1273:     my $response = '';
1.42      matthew  1274:     my (undef,$Foils,$Concepts) = &build_foil_index($ORdata);
1.43      matthew  1275:     #
                   1276:     # Create excel worksheet
                   1277:     my $filename = '/prtspool/'.
                   1278:         $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.
                   1279:         time.'_'.rand(1000000000).'.xls';
                   1280:     my $workbook  = Spreadsheet::WriteExcel->new('/home/httpd'.$filename);
                   1281:     if (! defined($workbook)) {
                   1282:         $r->log_error("Error creating excel spreadsheet $filename: $!");
                   1283:         $r->print('<p>'.&mt("Unable to create new Excel file.  ".
                   1284:                             "This error has been logged.  ".
                   1285:                             "Please alert your LON-CAPA administrator").
                   1286:                   '</p>');
                   1287:         return undef;
                   1288:     }
                   1289:     #
                   1290:     $workbook->set_tempdir('/home/httpd/perl/tmp');
1.69      matthew  1291:     my $format = &Apache::loncommon::define_excel_formats($workbook);
1.43      matthew  1292:     #
                   1293:     # Create and populate main worksheets
                   1294:     my $problem_data_sheet  = $workbook->addworksheet('Problem Data');
1.69      matthew  1295:     my $student_data_sheet = &build_student_data_worksheet($workbook,$format);
1.43      matthew  1296:     my $response_data_sheet = $workbook->addworksheet('Response Data');
                   1297:     foreach my $sheet ($problem_data_sheet,$student_data_sheet,
                   1298:                        $response_data_sheet) {
                   1299:         $sheet->write(0,0,$resource->{'title'},$format->{'h2'});
                   1300:         $sheet->write(1,0,$resource->{'src'},$format->{'h3'});
                   1301:     }
                   1302:     #
                   1303:     my $result;
1.59      matthew  1304:     $result = &OR_build_problem_data_worksheet($problem_data_sheet,$format,
1.43      matthew  1305:                                             $Concepts,$ORdata);
                   1306:     if ($result ne 'okay') {
                   1307:         # Do something useful
                   1308:     }
1.59      matthew  1309:     $result = &OR_build_response_data_worksheet($response_data_sheet,$format,
1.88      matthew  1310:                                              $performance_data,$Foils,
1.43      matthew  1311:                                              $ORdata);
                   1312:     if ($result ne 'okay') {
                   1313:         # Do something useful
                   1314:     }
1.44      matthew  1315:     $response_data_sheet->activate();
1.43      matthew  1316:     #
                   1317:     # Close the excel file
                   1318:     $workbook->close();
                   1319:     #
                   1320:     # Write a link to allow them to download it
1.44      matthew  1321:     $result .= '<h2>'.&mt('Excel Raw Data Output').'</h2>'.
                   1322:               '<p><a href="'.$filename.'">'.
                   1323:               &mt('Your Excel spreadsheet.').
                   1324:               '</a></p>'."\n";
1.43      matthew  1325:     return $result;
                   1326: }
                   1327: 
1.57      matthew  1328: sub OR_build_problem_data_worksheet {
1.43      matthew  1329:     my ($worksheet,$format,$Concepts,$ORdata) = @_;
                   1330:     my $rows_output = 3;
                   1331:     my $cols_output = 0;
                   1332:     $worksheet->write($rows_output++,0,'Problem Structure',$format->{'h3'});
                   1333:     ##
                   1334:     ##
                   1335:     my @Headers;
                   1336:     if (@$Concepts > 1) {
                   1337:         @Headers = ("Concept\nNumber",'Concept',"Foil\nNumber",
                   1338:                     'Foil Name','Foil Text','Correct value');
                   1339:     } else {
                   1340:         @Headers = ('Foil Number','FoilName','Foil Text','Correct value');
                   1341:     }
                   1342:     $worksheet->write_row($rows_output++,0,\@Headers,$format->{'header'});
1.48      matthew  1343:     my %Foildata = %{$ORdata->{'_Foils'}};
1.43      matthew  1344:     my $conceptindex = 1;
                   1345:     my $foilindex = 1;
                   1346:     foreach my $concept (@$Concepts) {
                   1347:         my @FoilsInConcept = @{$concept->{'foils'}};
                   1348:         my $firstfoil = shift(@FoilsInConcept);
                   1349:         if (@$Concepts > 1) {
                   1350:             $worksheet->write_row($rows_output++,0,
                   1351:                                   [$conceptindex,
                   1352:                                    $concept->{'name'},
                   1353:                                    $foilindex++,
                   1354:                                    $Foildata{$firstfoil}->{'name'},
                   1355:                                    $Foildata{$firstfoil}->{'text'},
                   1356:                                    $Foildata{$firstfoil}->{'value'},]);
                   1357:         } else {
                   1358:             $worksheet->write_row($rows_output++,0,
                   1359:                                   [ $foilindex++,
                   1360:                                     $Foildata{$firstfoil}->{'name'},
                   1361:                                     $Foildata{$firstfoil}->{'text'},
                   1362:                                     $Foildata{$firstfoil}->{'value'},]);
                   1363:         }
                   1364:         foreach my $foilid (@FoilsInConcept) {
                   1365:             if (@$Concepts > 1) {
                   1366:                 $worksheet->write_row($rows_output++,0,
                   1367:                                       ['',
                   1368:                                        '',
                   1369:                                        $foilindex,
                   1370:                                        $Foildata{$foilid}->{'name'},
                   1371:                                        $Foildata{$foilid}->{'text'},
                   1372:                                        $Foildata{$foilid}->{'value'},]);
                   1373:             } else {
                   1374:                 $worksheet->write_row($rows_output++,0,                
                   1375:                                       [$foilindex,
                   1376:                                        $Foildata{$foilid}->{'name'},
                   1377:                                        $Foildata{$foilid}->{'text'},
                   1378:                                        $Foildata{$foilid}->{'value'},]);
                   1379:             }                
                   1380:         } continue {
                   1381:             $foilindex++;
                   1382:         }
                   1383:     } continue {
                   1384:         $conceptindex++;
                   1385:     }
                   1386:     $rows_output++;
                   1387:     $rows_output++;
                   1388:     ##
                   1389:     ## Option data output
                   1390:     $worksheet->write($rows_output++,0,'Options',$format->{'header'});
1.48      matthew  1391:     foreach my $string (@{$ORdata->{'_Options'}}) {
1.43      matthew  1392:         $worksheet->write($rows_output++,0,$string);
                   1393:     }
                   1394:     return 'okay';
                   1395: }
                   1396: 
1.57      matthew  1397: sub OR_build_response_data_worksheet {
1.88      matthew  1398:     my ($worksheet,$format,$performance_data,$Foils,$ORdata)=@_;
1.43      matthew  1399:     my $rows_output = 3;
                   1400:     my $cols_output = 0;
                   1401:     $worksheet->write($rows_output++,0,'Response Data',$format->{'h3'});
                   1402:     $worksheet->set_column(1,1,20);
                   1403:     $worksheet->set_column(2,2,13);
                   1404:     my @Headers = ('identifier','time','award detail','attempt');
                   1405:     foreach my $foil (@$Foils) {
                   1406:         push (@Headers,$foil.' submission');
                   1407:         push (@Headers,$foil.' grading');
                   1408:     }
                   1409:     $worksheet->write_row($rows_output++,0,\@Headers,$format->{'header'});
                   1410:     #
1.88      matthew  1411:     foreach my $row (@$performance_data) {
1.43      matthew  1412:         next if (! defined($row));
                   1413:         my ($student,$award,$grading,$submission,$time,$tries) = @$row;
                   1414:         my @Foilgrades = split('&',$grading);
                   1415:         my @Foilsubs   = split('&',$submission);
1.88      matthew  1416:         my %response_data;
1.43      matthew  1417:         for (my $j=0;$j<=$#Foilgrades;$j++) {
                   1418:             my ($foilid,$correct)  = split('=',$Foilgrades[$j]);
                   1419:             my (undef,$submission) = split('=',$Foilsubs[$j]);
                   1420:             $submission = &Apache::lonnet::unescape($submission);
1.88      matthew  1421:             $response_data{$foilid.' submission'}=$submission;
                   1422:             $response_data{$foilid.' award'}=$correct;
1.43      matthew  1423:         }
                   1424:         $worksheet->write($rows_output,$cols_output++,$student);
                   1425:         $worksheet->write($rows_output,$cols_output++,
1.71      matthew  1426:              &Apache::lonstathelpers::calc_serial($time),$format->{'date'});
1.43      matthew  1427:         $worksheet->write($rows_output,$cols_output++,$award);
                   1428:         $worksheet->write($rows_output,$cols_output++,$tries);
                   1429:         foreach my $foilid (@$Foils) {
                   1430:             $worksheet->write($rows_output,$cols_output++,
1.88      matthew  1431:                               $response_data{$foilid.' submission'});
1.43      matthew  1432:             $worksheet->write($rows_output,$cols_output++,
1.88      matthew  1433:                               $response_data{$foilid.' award'});
1.43      matthew  1434:         }
                   1435:         $rows_output++;
                   1436:         $cols_output = 0;
                   1437:     }
                   1438:     return;
1.42      matthew  1439: }
                   1440: 
1.46      matthew  1441: sub build_foil_index {
                   1442:     my ($ORdata) = @_;
1.48      matthew  1443:     return if (! exists($ORdata->{'_Foils'}));
                   1444:     my %Foildata = %{$ORdata->{'_Foils'}};
1.46      matthew  1445:     my @Foils = sort(keys(%Foildata));
                   1446:     my %Concepts;
                   1447:     foreach my $foilid (@Foils) {
1.48      matthew  1448:         push(@{$Concepts{$Foildata{$foilid}->{'_Concept'}}},
1.46      matthew  1449:              $foilid);
                   1450:     }
                   1451:     undef(@Foils);
                   1452:     # Having gathered the concept information in a hash, we now translate it
                   1453:     # into an array because we need to be consistent about order.
                   1454:     # Also put the foils in order, too.
                   1455:     my $sortfunction = sub {
                   1456:         my %Numbers = (one   => 1,
                   1457:                        two   => 2,
                   1458:                        three => 3,
                   1459:                        four  => 4,
                   1460:                        five  => 5,
                   1461:                        six   => 6,
                   1462:                        seven => 7,
                   1463:                        eight => 8,
                   1464:                        nine  => 9,
                   1465:                        ten   => 10,);
                   1466:         my $a1 = lc($a); 
                   1467:         my $b1 = lc($b);
1.57      matthew  1468:         if (exists($Numbers{$a1})) {
1.67      matthew  1469:             $a1 = $Numbers{$a1};
1.57      matthew  1470:         }
                   1471:         if (exists($Numbers{$b1})) {
1.67      matthew  1472:             $b1 = $Numbers{$b1};
1.46      matthew  1473:         }
1.67      matthew  1474:         if (($a1 =~/^\d+$/) && ($b1 =~/^\d+$/)) {
                   1475:             return $a1 <=> $b1;
1.57      matthew  1476:         } else {
1.67      matthew  1477:             return $a1 cmp $b1;
1.46      matthew  1478:         }
                   1479:     };
                   1480:     my @Concepts;
                   1481:     foreach my $concept (sort $sortfunction (keys(%Concepts))) {
1.57      matthew  1482:         if (! defined($Concepts{$concept})) {
                   1483:             $Concepts{$concept}=[];
                   1484: #            next;
                   1485:         }
1.46      matthew  1486:         push(@Concepts,{ name => $concept,
                   1487:                         foils => [@{$Concepts{$concept}}]});
                   1488:         push(@Foils,(@{$Concepts{$concept}}));
                   1489:     }
                   1490:     #
                   1491:     # Build up the table of row labels.
                   1492:     my $table = '<table border="1" >'."\n";
                   1493:     if (@Concepts > 1) {
                   1494:         $table .= '<tr>'.
                   1495:             '<th>'.&mt('Concept Number').'</th>'.
                   1496:             '<th>'.&mt('Concept').'</th>'.
                   1497:             '<th>'.&mt('Foil Number').'</th>'.
                   1498:             '<th>'.&mt('Foil Name').'</th>'.
                   1499:             '<th>'.&mt('Foil Text').'</th>'.
                   1500:             '<th>'.&mt('Correct Value').'</th>'.
                   1501:             "</tr>\n";
                   1502:     } else {
                   1503:         $table .= '<tr>'.
                   1504:             '<th>'.&mt('Foil Number').'</th>'.
                   1505:             '<th>'.&mt('Foil Name').'</th>'.
                   1506:             '<th>'.&mt('Foil Text').'</th>'.
                   1507:             '<th>'.&mt('Correct Value').'</th>'.
                   1508:             "</tr>\n";
                   1509:     }        
                   1510:     my $conceptindex = 1;
                   1511:     my $foilindex = 1;
                   1512:     foreach my $concept (@Concepts) {
                   1513:         my @FoilsInConcept = @{$concept->{'foils'}};
                   1514:         my $firstfoil = shift(@FoilsInConcept);
                   1515:         if (@Concepts > 1) {
                   1516:             $table .= '<tr>'.
                   1517:                 '<td>'.$conceptindex.'</td>'.
1.83      albertel 1518:                 '<td>'.&HTML::Entities::encode($concept->{'name'},'<>&"').'</td>'.
1.46      matthew  1519:                 '<td>'.$foilindex++.'</td>'.
1.83      albertel 1520:                 '<td>'.&HTML::Entities::encode($Foildata{$firstfoil}->{'name'},'<>&"').'</td>'.
1.65      matthew  1521:                 '<td>'.$Foildata{$firstfoil}->{'text'}.'</td>'.
1.83      albertel 1522:                 '<td>'.&HTML::Entities::encode($Foildata{$firstfoil}->{'value'},'<>&"').'</td>'.
1.46      matthew  1523:                 "</tr>\n";
                   1524:         } else {
                   1525:             $table .= '<tr>'.
                   1526:                 '<td>'.$foilindex++.'</td>'.
1.83      albertel 1527:                 '<td>'.&HTML::Entities::encode($Foildata{$firstfoil}->{'name'},'<>&"').'</td>'.
1.65      matthew  1528:                 '<td>'.$Foildata{$firstfoil}->{'text'}.'</td>'.
1.83      albertel 1529:                 '<td>'.&HTML::Entities::encode($Foildata{$firstfoil}->{'value'},'<>&"').'</td>'.
1.46      matthew  1530:                 "</tr>\n";
                   1531:         }
                   1532:         foreach my $foilid (@FoilsInConcept) {
                   1533:             if (@Concepts > 1) {
                   1534:                 $table .= '<tr>'.
                   1535:                     '<td></td>'.
                   1536:                     '<td></td>'.
                   1537:                     '<td>'.$foilindex.'</td>'.
1.83      albertel 1538:                     '<td>'.&HTML::Entities::encode($Foildata{$foilid}->{'name'},'<>&"').'</td>'.
1.65      matthew  1539:                     '<td>'.$Foildata{$foilid}->{'text'}.'</td>'.
1.84      albertel 1540:                     '<td>'.&HTML::Entities::encode($Foildata{$foilid}->{'value'},'<>&"').'</td>'.
1.46      matthew  1541:                     "</tr>\n";
                   1542:             } else {
                   1543:                 $table .= '<tr>'.
                   1544:                     '<td>'.$foilindex.'</td>'.
1.83      albertel 1545:                     '<td>'.&HTML::Entities::encode($Foildata{$foilid}->{'name'},'<>&"').'</td>'.
1.65      matthew  1546:                     '<td>'.$Foildata{$foilid}->{'text'}.'</td>'.
1.83      albertel 1547:                     '<td>'.&HTML::Entities::encode($Foildata{$foilid}->{'value'},'<>&"').'</td>'.
1.46      matthew  1548:                     "</tr>\n";
                   1549:             }                
                   1550:         } continue {
                   1551:             $foilindex++;
                   1552:         }
                   1553:     } continue {
                   1554:         $conceptindex++;
                   1555:     }
                   1556:     $table .= "</table>\n";
                   1557:     #
                   1558:     # Build option index with color stuff
                   1559:     return ($table,\@Foils,\@Concepts);
                   1560: }
                   1561: 
                   1562: sub build_option_index {
                   1563:     my ($ORdata)= @_;
                   1564:     my $table = "<table>\n";
                   1565:     my $optionindex = 0;
                   1566:     my @Rows;
1.48      matthew  1567:     foreach my $option (&mt('correct option chosen'),@{$ORdata->{'_Options'}}) {
1.95      matthew  1568:         my $color = $plotcolors->[$optionindex++];
1.46      matthew  1569:         push (@Rows,
                   1570:               '<tr>'.
1.95      matthew  1571:               '<td bgcolor="'.$color.'">'.
                   1572:               '<font color="'.$color.'">'.('*'x3).'</font>'.'</td>'.
1.83      albertel 1573:               '<td>'.&HTML::Entities::encode($option,'<>&"').'</td>'.
1.46      matthew  1574:               "</tr>\n");
                   1575:     }
                   1576:     shift(@Rows); # Throw away 'correct option chosen' color
                   1577:     $table .= join('',reverse(@Rows));
                   1578:     $table .= "</table>\n";
                   1579: }
                   1580: 
1.94      matthew  1581: sub build_foil_key {
                   1582:     my ($foils,$extra_data)= @_;
                   1583:     if (! defined($extra_data)) { $extra_data = {}; }
                   1584:     my $table = "<table>\n";
                   1585:     my $foil_index = 0;
                   1586:     my @rows;
                   1587:     foreach my $foil (&mt('correct foil chosen'),@{$foils}) {
1.95      matthew  1588:         my $color = $plotcolors->[$foil_index++];
1.94      matthew  1589:         push (@rows,
                   1590:               '<tr>'.
1.95      matthew  1591:               '<td bgcolor="'.$color.'" class="key">'.
                   1592:               '<font color="'.$color.'">'.('*'x4).'</font></td>'.
1.94      matthew  1593:               '<td>'.&HTML::Entities::encode($foil,'<>&"').
                   1594:               ('&nbsp;'x2).$extra_data->{$foil}.'</td>'.
                   1595:               "</tr>\n");
                   1596:     }
                   1597:     shift(@rows); # Throw away 'correct foil chosen' color
                   1598:     $table .= join('',reverse(@rows));
                   1599:     $table .= "</table>\n";
                   1600: }
                   1601: 
1.33      matthew  1602: #########################################################
                   1603: #########################################################
                   1604: ##
1.46      matthew  1605: ##   Generic Interface Routines
1.33      matthew  1606: ##
                   1607: #########################################################
                   1608: #########################################################
1.23      matthew  1609: sub CreateInterface {
1.28      matthew  1610:     ##
                   1611:     ## Environment variable initialization
1.36      matthew  1612:     if (! exists$ENV{'form.AnalyzeOver'}) {
1.94      matthew  1613:         $ENV{'form.AnalyzeOver'} = 'tries';
1.28      matthew  1614:     }
                   1615:     ##
                   1616:     ## Build the menu
1.7       stredwic 1617:     my $Str = '';
1.72      matthew  1618:     $Str .= &Apache::lonhtmlcommon::breadcrumbs
1.74      matthew  1619:         (undef,'Detailed Problem Analysis');
1.23      matthew  1620:     $Str .= '<table cellspacing="5">'."\n";
                   1621:     $Str .= '<tr>';
                   1622:     $Str .= '<td align="center"><b>'.&mt('Sections').'</b></td>';
                   1623:     $Str .= '<td align="center"><b>'.&mt('Enrollment Status').'</b></td>';
1.31      matthew  1624: #    $Str .= '<td align="center"><b>'.&mt('Sequences and Folders').'</b></td>';
                   1625:     $Str .= '<td align="center">&nbsp;</td>';
1.23      matthew  1626:     $Str .= '</tr>'."\n";
1.31      matthew  1627:     ##
                   1628:     ## 
1.23      matthew  1629:     $Str .= '<tr><td align="center">'."\n";
                   1630:     $Str .= &Apache::lonstatistics::SectionSelect('Section','multiple',5);
1.28      matthew  1631:     $Str .= '</td>';
                   1632:     #
                   1633:     $Str .= '<td align="center">';
1.23      matthew  1634:     $Str .= &Apache::lonhtmlcommon::StatusOptions(undef,undef,5);
1.28      matthew  1635:     $Str .= '</td>';
                   1636:     #
1.31      matthew  1637: #    $Str .= '<td align="center">';
1.23      matthew  1638:     my $only_seq_with_assessments = sub { 
                   1639:         my $s=shift;
                   1640:         if ($s->{'num_assess'} < 1) { 
                   1641:             return 0;
                   1642:         } else { 
                   1643:             return 1;
                   1644:         }
                   1645:     };
1.31      matthew  1646:     &Apache::lonstatistics::MapSelect('Maps','multiple,all',5,
1.23      matthew  1647:                                               $only_seq_with_assessments);
1.36      matthew  1648:     ##
                   1649:     ##
1.28      matthew  1650:     $Str .= '<td>';
1.91      matthew  1651:     ##
                   1652:     my $showprob_checkbox = 
                   1653:         '<input type="checkbox" name="show_prob" value="true" ';
                   1654:     if ($ENV{'form.show_prob'} eq 'true') {
                   1655:         $showprob_checkbox .= 'checked ';
                   1656:     }
                   1657:     $showprob_checkbox.= ' />';
                   1658:     $Str.= '<nobr><label>'.
                   1659:         &mt('Show problem [_1]',$showprob_checkbox).
                   1660:         '</label></nobr><br />';
                   1661:     ##
1.90      matthew  1662:     my $analyze_selector = '<select name="AnalyzeOver" >';
1.94      matthew  1663:     $analyze_selector .= '<option value="tries" ';
1.90      matthew  1664:     if (! exists($ENV{'form.AnalyzeOver'}) || 
1.94      matthew  1665:         $ENV{'form.AnalyzeOver'} eq 'tries'){
                   1666:         # Default to tries
1.90      matthew  1667:         $analyze_selector .= ' selected ';
                   1668:     }
                   1669:     $analyze_selector .= '>'.&mt('Tries').'</option>';
1.94      matthew  1670:     $analyze_selector .= '<option value="time" ';
                   1671:     $analyze_selector .= ' selected ' if ($ENV{'form.AnalyzeOver'} eq 'time');
1.90      matthew  1672:     $analyze_selector .= '>'.&mt('Time').'</option>';
                   1673:     $analyze_selector .= '</select>';
1.91      matthew  1674:     $Str .= '<nobr><label>'.
1.90      matthew  1675:         &mt('Analyze Over [_1] [_2]',
                   1676:             $analyze_selector,
                   1677:             &Apache::loncommon::help_open_topic('Analysis_Analyze_Over')).
1.91      matthew  1678:             '</label></nobr><br />'.$/;
1.90      matthew  1679:     ##
                   1680:     my $numplots_selector = '<select name="NumPlots">';
                   1681:     if (! exists($ENV{'form.NumPlots'}) 
                   1682:         || $ENV{'form.NumPlots'} < 1 
                   1683:         || $ENV{'form.NumPlots'} > 20) {
                   1684:         $ENV{'form.NumPlots'} = 5;
                   1685:     }
                   1686:     foreach my $i (1,2,3,4,5,6,7,8,10,15,20) {
                   1687:         $numplots_selector .= '<option value="'.$i.'" ';
                   1688:         if ($ENV{'form.NumPlots'} == $i) { $numplots_selector.=' selected '; }
                   1689:         $numplots_selector .= '>'.$i.'</option>';
                   1690:     }
                   1691:     $numplots_selector .= '</select></nobr><br />';
                   1692:     $Str .= '<nobr><label>'.&mt('Number of Plots [_1]',$numplots_selector).
                   1693:         '</label></nobr>';
                   1694:     ##
                   1695:     $Str .= '<nobr><label>'.&mt('Status: [_1]',
1.85      matthew  1696:                                  '<input type="text" '.
                   1697:                                  'name="stats_status" size="60" value="" />'
                   1698:                                  ).
1.90      matthew  1699:                     '</label></nobr>';
1.28      matthew  1700:     $Str .= '</td>';
1.36      matthew  1701:     ##
                   1702:     ##
1.28      matthew  1703:     $Str .= '</tr>'."\n";
1.23      matthew  1704:     $Str .= '</table>'."\n";
1.42      matthew  1705:     return $Str;
1.54      matthew  1706: }
1.47      matthew  1707: 
                   1708: #########################################################
                   1709: #########################################################
                   1710: ##
                   1711: ##              Misc Option Response functions
                   1712: ##
                   1713: #########################################################
                   1714: #########################################################
                   1715: sub get_time_from_row {
1.42      matthew  1716:     my ($row) = @_;
                   1717:     if (ref($row)) {
1.47      matthew  1718:         return $row->[&Apache::loncoursedata::RD_timestamp()];
1.42      matthew  1719:     } 
                   1720:     return undef;
                   1721: }
                   1722: 
1.47      matthew  1723: sub get_tries_from_row {
1.42      matthew  1724:     my ($row) = @_;
                   1725:     if (ref($row)) {
1.47      matthew  1726:         return $row->[&Apache::loncoursedata::RD_tries()];
1.42      matthew  1727:     }
                   1728:     return undef;
                   1729: }
                   1730: 
1.48      matthew  1731: sub hashify_attempt {
                   1732:     my ($row) = @_;
                   1733:     my %attempt;
1.94      matthew  1734:     $attempt{'student'}    = $row->[&Apache::loncoursedata::RD_sname()];
1.48      matthew  1735:     $attempt{'tries'}      = $row->[&Apache::loncoursedata::RD_tries()];
1.94      matthew  1736:     $attempt{'submission'} = &Apache::lonnet::unescape($row->[&Apache::loncoursedata::RD_submission()]);
1.48      matthew  1737:     $attempt{'award'}      = $row->[&Apache::loncoursedata::RD_awarddetail()];
                   1738:     $attempt{'timestamp'}  = $row->[&Apache::loncoursedata::RD_timestamp()];
                   1739:     return %attempt;
                   1740: }
                   1741: 
1.46      matthew  1742: sub Process_OR_Row {
1.42      matthew  1743:     my ($row) = @_;
                   1744:     my %RowData;
1.96      matthew  1745: #    my $student_id = $row->[&Apache::loncoursedata::RD_student_id()];
1.47      matthew  1746:     my $award      = $row->[&Apache::loncoursedata::RD_awarddetail()];
                   1747:     my $grading    = $row->[&Apache::loncoursedata::RD_response_eval()];
                   1748:     my $submission = $row->[&Apache::loncoursedata::RD_submission()];
                   1749:     my $time       = $row->[&Apache::loncoursedata::RD_timestamp()];
1.96      matthew  1750: #    my $tries      = $row->[&Apache::loncoursedata::RD_tries()];
1.43      matthew  1751:     return undef if ($award eq 'MISSING_ANSWER');
1.97      matthew  1752:     if (&submission_is_correct($award)) {
1.42      matthew  1753:         $RowData{'_correct'} = 1;
                   1754:     }
                   1755:     $RowData{'_total'} = 1;
                   1756:     my @Foilgrades = split('&',$grading);
                   1757:     my @Foilsubs   = split('&',$submission);
                   1758:     for (my $j=0;$j<=$#Foilgrades;$j++) {
                   1759:         my ($foilid,$correct)  = split('=',$Foilgrades[$j]);
1.58      matthew  1760:         $foilid = &Apache::lonnet::unescape($foilid);
1.42      matthew  1761:         my (undef,$submission) = split('=',$Foilsubs[$j]);
                   1762:         if ($correct) {
                   1763:             $RowData{$foilid}->{'_correct'}++;
                   1764:         } else {
                   1765:             $submission = &Apache::lonnet::unescape($submission);
                   1766:             $RowData{$foilid}->{$submission}++;
                   1767:         }
                   1768:         $RowData{$foilid}->{'_total'}++;
                   1769:     }
                   1770:     return %RowData;
1.47      matthew  1771: }
                   1772: 
1.97      matthew  1773: sub submission_is_correct {
                   1774:     my ($award) = @_;
                   1775:     if ($award =~ /(APPROX_ANS|EXACT_ANS)/) {
                   1776:         return 1;
                   1777:     } else {
                   1778:         return 0;
                   1779:     }
                   1780: }
                   1781: 
1.23      matthew  1782: 1;
1.1       stredwic 1783: 
                   1784: __END__

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>