[BACK]Return to lonproblemstatistics.pm CVS log [TXT] [DIR] Up to [LON-CAPA] / loncom / interface / statistics

Diff for /loncom/interface/statistics/lonproblemstatistics.pm between versions 1.94 and 1.119

version 1.94, 2004/10/06 15:37:59 version 1.119, 2011/01/17 00:19:41
Line 50  Excel files, and plots. Line 50  Excel files, and plots.
 package Apache::lonproblemstatistics;  package Apache::lonproblemstatistics;
   
 use strict;  use strict;
 use Apache::lonnet();  use Apache::lonnet;
 use Apache::loncommon();  use Apache::loncommon();
   use Apache::lonquickgrades();
 use Apache::lonhtmlcommon;  use Apache::lonhtmlcommon;
 use Apache::loncoursedata;  use Apache::loncoursedata;
 use Apache::lonstatistics;  use Apache::lonstatistics;
Line 60  use Apache::lonlocal; Line 61  use Apache::lonlocal;
 use Spreadsheet::WriteExcel;  use Spreadsheet::WriteExcel;
 use Apache::lonstathelpers();  use Apache::lonstathelpers();
 use Time::HiRes;  use Time::HiRes;
   use LONCAPA;
    
   
 my @StatsArray;  my @StatsArray;
 my %SeqStat;    # keys are symbs, values are hash refs  my %SeqStat;    # keys are symbs, values are hash refs
Line 121  my @Fields = ( Line 124  my @Fields = (
              align  => 'left',               align  => 'left',
              color  => '#FFFFE6',               color  => '#FFFFE6',
              special  => 'link',               special  => 'link',
              sortable => 'yes',                sortable => 'yes',
              selectable => 'no',               selectable => 'no',
              defaultselected => 'yes',               defaultselected => 'yes',
            },             },
            { name   => 'part',              { name   => 'part',
              title  => 'Part',               title  => 'Part',
              align  => 'left',               align  => 'left',
              color  => '#FFFFE6',               color  => '#FFFFE6',
Line 231  my @Fields = ( Line 234  my @Fields = (
              selectable => 'yes',               selectable => 'yes',
              defaultselected => 'yes',               defaultselected => 'yes',
            },             },
              { name   => 'tries_per_correct',
                title  => 'tries/correct',
                align  => 'right',
                color  => '#FFDDDD',
                format => '%4.1f',
                sortable  => 'yes',
                graphable => 'yes',
                long_title => 'Tries per Correct Answer',
                selectable => 'yes',
                defaultselected => 'yes',
              },
            { name   => 'num_wrong',             { name   => 'num_wrong',
              title  => '#Wrng',               title  => '#Wrng',
              align  => 'right',               align  => 'right',
Line 342  my @Fields = ( Line 356  my @Fields = (
 #             selectable => 'no',  #             selectable => 'no',
 #             defaultselected => 'yes',  #             defaultselected => 'yes',
 #            },  #            },
   #
   ##   problem weight for instructor
              { name => 'weight',
                title => 'weight',
                align => 'right',
                color => '#FFFFFF',
                sortable => 'no',
                graphable => 'no',
                long_title => 'Problem weight (for instructor)',
                selectable => 'yes',
                defaultselected => 'yes',
               },
 );  );
   
 my @SeqFields = (  my @SeqFields = (
Line 350  my @SeqFields = ( Line 376  my @SeqFields = (
              align  => 'left',               align  => 'left',
              color  => '#FFFFE6',               color  => '#FFFFE6',
              special  => 'no',               special  => 'no',
              sortable => 'no',                sortable => 'no',
              selectable => 'yes',               selectable => 'yes',
              defaultselected => 'no',               defaultselected => 'no',
            },             },
Line 485  my @SeqFields = ( Line 511  my @SeqFields = (
              long_title => 'KR-21 reliability statistic',               long_title => 'KR-21 reliability statistic',
              selectable => 'yes',               selectable => 'yes',
              defaultselected => 'no',               defaultselected => 'no',
            },                        },
 );  );
   
 my %SelectedFields;  my %SelectedFields;
Line 493  my %SelectedFields; Line 519  my %SelectedFields;
 sub parse_field_selection {  sub parse_field_selection {
     #      #
     # Pull out the defaults      # Pull out the defaults
     if (! defined($ENV{'form.fieldselections'})) {      if (! defined($env{'form.fieldselections'})) {
         $ENV{'form.fieldselections'} = [];          $env{'form.fieldselections'} = [];
         foreach my $field (@Fields) {          foreach my $field (@Fields) {
             next if ($field->{'selectable'} ne 'yes');              next if ($field->{'selectable'} ne 'yes');
             if ($field->{'defaultselected'} eq 'yes') {              if ($field->{'defaultselected'} eq 'yes') {
                 push(@{$ENV{'form.fieldselections'}},$field->{'name'});                  push(@{$env{'form.fieldselections'}},$field->{'name'});
             }              }
         }          }
     }      }
     #      #
     # Make sure the data we are plotting is there      # Make sure the data we are plotting is there
     my %NeededFields;      my %NeededFields;
     if (exists($ENV{'form.plot'}) && $ENV{'form.plot'} ne '' &&      if (exists($env{'form.plot'}) && $env{'form.plot'} ne '' &&
         $ENV{'form.plot'} ne 'none') {          $env{'form.plot'} ne 'none') {
         if ($ENV{'form.plot'} eq 'degrees') {          if ($env{'form.plot'} eq 'degrees') {
             $NeededFields{'deg_of_diff'}++;              $NeededFields{'deg_of_diff'}++;
             $NeededFields{'deg_of_disc'}++;              $NeededFields{'deg_of_disc'}++;
         } elsif ($ENV{'form.plot'} eq 'tries statistics') {          } elsif ($env{'form.plot'} eq 'tries statistics') {
             $NeededFields{'mean_tries'}++;              $NeededFields{'mean_tries'}++;
             $NeededFields{'std_tries'}++;              $NeededFields{'std_tries'}++;
             $NeededFields{'problem_num'}++;              $NeededFields{'problem_num'}++;
         } else {          } else {
             $NeededFields{$ENV{'form.plot'}}++;              $NeededFields{$env{'form.plot'}}++;
         }          }
     }      }
     #      #
     # This should not happen, but in case it does...      # This should not happen, but in case it does...
     if (ref($ENV{'form.fieldselections'}) ne 'ARRAY') {      if (ref($env{'form.fieldselections'}) ne 'ARRAY') {
         $ENV{'form.fieldselections'} = [$ENV{'form.fieldselections'}];          $env{'form.fieldselections'} = [$env{'form.fieldselections'}];
     }      }
     #      #
     # Set the field data and the selected fields (for easier checking)      # Set the field data and the selected fields (for easier checking)
Line 536  sub parse_field_selection { Line 562  sub parse_field_selection {
             $field->{'selected'} = 'yes';              $field->{'selected'} = 'yes';
             $SelectedFields{$field->{'name'}}++;              $SelectedFields{$field->{'name'}}++;
         }          }
         foreach my $selection (@{$ENV{'form.fieldselections'}}) {          foreach my $selection (@{$env{'form.fieldselections'}}) {
             if ($selection eq $field->{'name'} || $selection eq 'all') {              if ($selection eq $field->{'name'} || $selection eq 'all') {
                 $field->{'selected'} = 'yes';                  $field->{'selected'} = 'yes';
                 $SelectedFields{$field->{'name'}}++;                  $SelectedFields{$field->{'name'}}++;
Line 552  sub parse_field_selection { Line 578  sub parse_field_selection {
 }  }
   
 sub field_selection_input {  sub field_selection_input {
     my $Str = '<select name="fieldselections" multiple size="5">'."\n";      my $Str = '<select name="fieldselections" multiple="multiple" size="5">'."\n";
     $Str .= '<option value="all">all</option>'."\n";      $Str .= '<option value="all">all</option>'."\n";
     foreach my $field (@Fields) {      foreach my $field (@Fields) {
         next if ($field->{'selectable'} ne 'yes');          next if ($field->{'selectable'} ne 'yes');
Line 585  sub CreateInterface { Line 611  sub CreateInterface {
     &parse_field_selection();      &parse_field_selection();
     #      #
     my $Str = '';      my $Str = '';
     $Str .= &Apache::lonhtmlcommon::breadcrumbs      $Str .= '<p>';
         (undef,'Overall Problem Statistics','Statistics_Overall_Key');      $Str .= &Apache::loncommon::start_data_table();
     $Str .= '<table cellspacing="5">'."\n";      $Str .= &Apache::loncommon::start_data_table_header_row();
     $Str .= '<tr>';      $Str .= '<th>'.&mt('Sections').'</th>';
     $Str .= '<td align="center"><b>'.&mt('Sections').'</b></td>';      $Str .= '<th>'.&mt('Groups').'</th>';
     $Str .= '<td align="center"><b>'.&mt('Enrollment Status').'</b></td>';      $Str .= '<th>'.&mt('Access Status').'</th>';
     $Str .= '<td align="center"><b>'.&mt('Sequences and Folders').'</b></td>';      $Str .= '<th>'.&mt('Sequences and Folders').'</th>';
     $Str .= '<td align="center"><b>'.&mt('Statistics').'</b></td>';      $Str .= '<th>'.&mt('Statistics').'</th>';
     $Str .= '<td rowspan="2">'.      $Str .= '<th>'.&mt('Plot Graph').'</th>';
         &Apache::lonstathelpers::limit_by_time_form().'</td>';      $Str .= '<th>'.&mt('Time Period').'</th>';
     $Str .= '</tr>'."\n";      $Str .= &Apache::loncommon::end_data_table_header_row();
     #      #
     $Str .= '<tr><td align="center">'."\n";      $Str .= &Apache::loncommon::start_data_table_row();
       $Str .= '<td align="center" valign="top">'."\n";
     $Str .= &Apache::lonstatistics::SectionSelect('Section','multiple',5);      $Str .= &Apache::lonstatistics::SectionSelect('Section','multiple',5);
     $Str .= '</td><td align="center">';      $Str .= '</td><td align="center" valign="top">';
       $Str .= &Apache::lonstatistics::GroupSelect('Group','multiple',5);
       $Str .= '</td><td align="center" valign="top">';
     $Str .= &Apache::lonhtmlcommon::StatusOptions(undef,undef,5);      $Str .= &Apache::lonhtmlcommon::StatusOptions(undef,undef,5);
     $Str .= '</td><td align="center">';      $Str .= '</td><td align="center" valign="top">';
     #      #
     my $only_seq_with_assessments = sub {       $Str .= &Apache::lonstatistics::map_select('Maps','multiple,all',5);
         my $s=shift;      $Str .= '</td><td align="center" valign="top">';
         if ($s->{'num_assess'} < 1) {       $Str .= &field_selection_input();
             return 0;      $Str .= '</td><td align="center" valign="top">';
         } else {       $Str .= &plot_dropdown();
             return 1;      $Str .= '</td>'."\n";
         }      $Str .= '</td><td align="center" valign="top">';
     };      $Str .= &Apache::lonstathelpers::limit_by_time_form();
     $Str .= &Apache::lonstatistics::MapSelect('Maps','multiple,all',5,      $Str .= '</td>'."\n";
                                               $only_seq_with_assessments);      $Str .=  &Apache::loncommon::end_data_table_row();
     $Str .= '</td><td>'.&field_selection_input();      $Str .= &Apache::loncommon::end_data_table();
     $Str .= '</td></tr>'."\n";      #
     $Str .= '</table>'."\n";      $Str .= '<p><span class="LC_nobreak">'
     #             .&mt('Status: [_1]',
     $Str .= '<p>'.&mt('Status: [_1]',                      '<input type="text" name="stats_status"'
                          '<input type="text" '.                     .' size="60" value="" readonly="readonly" />')
                          'name="stats_status" size="60" value="" />'             .'</span></p>';
                          ).  
                          '</nobr></p>';  
     #      #
       $Str .= '</p>';
     $Str .= '<input type="submit" name="GenerateStatistics" value="'.      $Str .= '<input type="submit" name="GenerateStatistics" value="'.
         &mt('Generate Statistics').'" />';          &mt('Generate Statistics').'" />';
     $Str .= '&nbsp;'x5;      $Str .= ('&nbsp;'x10);
     $Str .= 'Plot '.&plot_dropdown().('&nbsp;'x10);  
     #      #
     return $Str;      return $Str;
 }  }
Line 644  Main interface to problem statistics. Line 671  Main interface to problem statistics.
   
 ###############################################  ###############################################
 ###############################################  ###############################################
   my $navmap;
   my @sequences;
   
   sub clean_up {
       undef($navmap);
       undef(@sequences);
   }
   
 sub BuildProblemStatisticsPage {  sub BuildProblemStatisticsPage {
     my ($r,$c)=@_;      my ($r,$c)=@_;
       undef($navmap);
       undef(@sequences);
     #      #
     my %Saveable_Parameters = ('Status' => 'scalar',      my %Saveable_Parameters = ('Status' => 'scalar',
                                'statsoutputmode' => 'scalar',                                 'statsoutputmode' => 'scalar',
                                'Section' => 'array',                                 'Section' => 'array',
                                  'Groups' => 'array',
                                'StudentData' => 'array',                                 'StudentData' => 'array',
                                'Maps' => 'array',                                 'Maps' => 'array',
                                'fieldselections'=> 'array');                                 'fieldselections'=> 'array');
Line 665  sub BuildProblemStatisticsPage { Line 703  sub BuildProblemStatisticsPage {
     undef(%SeqStat);      undef(%SeqStat);
     #      #
     # Finally let the user know we are here      # Finally let the user know we are here
       $r->print(&Apache::lonhtmlcommon::breadcrumbs('Overall Problem Statistics',
                                                   'Statistics_Overall_Key'));
       &Apache::lonquickgrades::startGradeScreen($r,'statistics');
   
     my $interface = &CreateInterface($r);      my $interface = &CreateInterface($r);
     $r->print($interface);      $r->print($interface);
     $r->print('<input type="hidden" name="sortby" value="'.$ENV{'form.sortby'}.      $r->print('<input type="hidden" name="sortby" value="'.$env{'form.sortby'}.
               '" />');                '" />');
     #      #
     my @CacheButtonHTML =       my @CacheButtonHTML =
         &Apache::lonstathelpers::manage_caches($r,'Statistics','stats_status');          &Apache::lonstathelpers::manage_caches($r,'Statistics','stats_status');
     my $Str;      my $Str;
     foreach my $html (@CacheButtonHTML) {      foreach my $html (@CacheButtonHTML) {
Line 678  sub BuildProblemStatisticsPage { Line 720  sub BuildProblemStatisticsPage {
     }      }
     #      #
     $r->print($Str);      $r->print($Str);
     if (! exists($ENV{'form.firstrun'})) {      if (! exists($env{'form.firstrun'})) {
         $r->print('<h3>'.          $r->print('<p class="LC_info"><b>'.
                   &mt('Press "Generate Statistics" when you are ready.').                    &mt('Press "Generate Statistics" when you are ready.').
                   '</h3><p>'.                    '</b></p>'.
                     '<p class="LC_info">'.
                   &mt('It may take some time to update the student data '.                    &mt('It may take some time to update the student data '.
                       'for the first analysis.  Future analysis this session '.                        'for the first analysis. Future analysis this session '.
                       ' will not have this delay.').                        'will not have this delay.').
                   '</p>');                    '</p>');
    &clean_up();
         return;          return;
     }      }
     $r->rflush();      $r->rflush();
Line 694  sub BuildProblemStatisticsPage { Line 738  sub BuildProblemStatisticsPage {
     # it does not slow things down noticably.      # it does not slow things down noticably.
     &Apache::loncoursedata::populate_weight_table();      &Apache::loncoursedata::populate_weight_table();
     #      #
     if (exists($ENV{'form.Excel'})) {      ($navmap,@sequences) =
           &Apache::lonstatistics::selected_sequences_with_assessments();
       if (! ref($navmap)) {
           $r->print('<div class="LC_error">'.&mt('A course-wide error occurred.').'</div>'.
                     '<h3>'.$navmap.'</h3>');
    &clean_up();
           return;
       }
       if (exists($env{'form.Excel'})) {
           $r->print('<h4>'.
                     &Apache::lonstatistics::section_and_enrollment_description().
                     '</h4>');
         &Excel_output($r);          &Excel_output($r);
     } else {       } else {
         $r->print('<input type="submit" name="Excel" value="'.          $r->print('<input type="submit" name="Excel" value="'.
                   &mt('Produce Excel Output').'" />'.'&nbsp;'x5);                    &mt('Produce Excel Output').'" />'.'&nbsp;'x5);
         $r->rflush();          $r->rflush();
           $r->print('<h4>'.
                     &Apache::lonstatistics::section_and_enrollment_description().
                     '</h4>');
         my $count = 0;          my $count = 0;
         foreach my $seq (&Apache::lonstatistics::Sequences_with_Assess()) {          foreach my $seq (@sequences) {
             $count += $seq->{'num_assess_parts'};              my @resources =
                   &Apache::lonstathelpers::get_resources($navmap,$seq);
               $count += scalar(@resources);
         }          }
         if ($count > 10) {          if ($count > 10) {
             $r->print('<h2>'.              $r->print('<h2>'.
Line 714  sub BuildProblemStatisticsPage { Line 774  sub BuildProblemStatisticsPage {
             $r->rflush();              $r->rflush();
         }          }
         #          #
         my $sortby = $ENV{'form.sortby'};          my $sortby = $env{'form.sortby'};
         $sortby = 'container' if (! defined($sortby) || $sortby =~ /^\s*$/);          $sortby = 'container' if (! defined($sortby) || $sortby =~ /^\s*$/);
         my $plot = $ENV{'form.plot'};          my $plot = $env{'form.plot'};
         if ($plot eq '' || $plot eq 'none') {          if ($plot eq '' || $plot eq 'none') {
             undef($plot);              undef($plot);
         }          }
Line 731  sub BuildProblemStatisticsPage { Line 791  sub BuildProblemStatisticsPage {
             &output_sequence_statistics($r);              &output_sequence_statistics($r);
         }          }
     }      }
       &clean_up();
     return;      return;
 }  }
   
Line 744  sub output_sequence_statistics { Line 805  sub output_sequence_statistics {
               '<table border="0" cellpadding="3">'."\n".                '<table border="0" cellpadding="3">'."\n".
               '<tr bgcolor="#FFFFE6">');                '<tr bgcolor="#FFFFE6">');
     $r->print(&sequence_html_header());      $r->print(&sequence_html_header());
     foreach my $seq (&Apache::lonstatistics::Sequences_with_Assess()) {      foreach my $seq (@sequences) {
         last if ($c->aborted);          last if ($c->aborted);
         next if ($seq->{'num_assess'} < 1);  
         &compute_sequence_statistics($seq);          &compute_sequence_statistics($seq);
         $r->print(&sequence_html_output($seq));          $r->print(&sequence_html_output($seq));
     }      }
Line 769  sub output_html_by_sequence { Line 829  sub output_html_by_sequence {
     my $c = $r->connection();      my $c = $r->connection();
     $r->print(&html_preamble());      $r->print(&html_preamble());
     #      #
     foreach my $seq (&Apache::lonstatistics::Sequences_with_Assess()) {      foreach my $seq (@sequences) {
         last if ($c->aborted);          last if ($c->aborted);
         next if ($seq->{'num_assess'} < 1);          $r->print("<h3>".$seq->compTitle."</h3>".
         $r->print("<h3>".$seq->{'title'}."</h3>".  
                   '<table border="0"><tr><td bgcolor="#777777">'."\n".                    '<table border="0"><tr><td bgcolor="#777777">'."\n".
                   '<table border="0" cellpadding="3">'."\n".                    '<table border="0" cellpadding="3">'."\n".
                   '<tr bgcolor="#FFFFE6">'.                    '<tr bgcolor="#FFFFE6">'.
Line 793  sub output_html_stats { Line 852  sub output_html_stats {
     my ($r)=@_;      my ($r)=@_;
     &compute_all_statistics($r);      &compute_all_statistics($r);
     $r->print(&html_preamble());      $r->print(&html_preamble());
     &sort_data($ENV{'form.sortby'});      &sort_data($env{'form.sortby'});
     #      #
     my $count=0;      my $count=0;
     foreach my $data (@StatsArray) {      foreach my $data (@StatsArray) {
Line 815  sub output_html_stats { Line 874  sub output_html_stats {
 sub html_preamble {  sub html_preamble {
     my $Str='';      my $Str='';
     $Str .= "<h2>".      $Str .= "<h2>".
         $ENV{'course.'.$ENV{'request.course.id'}.'.description'}.          $env{'course.'.$env{'request.course.id'}.'.description'}.
         "</h2>\n";          "</h2>\n";
     my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();      my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();
     if (defined($starttime) || defined($endtime)) {      if (defined($starttime) || defined($endtime)) {
Line 909  sub sequence_html_header { Line 968  sub sequence_html_header {
   
 sub sequence_html_output {  sub sequence_html_output {
     my ($seq) = @_;      my ($seq) = @_;
     my $data = $SeqStat{$seq->{'symb'}};      my $data = $SeqStat{$seq->symb};
     my $row = '<tr>';      my $row = '<tr>';
     foreach my $field (@SeqFields) {      foreach my $field (@SeqFields) {
         next if ($field->{'selected'} ne 'yes');          next if ($field->{'selected'} ne 'yes');
Line 939  sub sequence_html_output { Line 998  sub sequence_html_output {
 sub make_plot {  sub make_plot {
     my ($r,$plot) = @_;      my ($r,$plot) = @_;
     &compute_all_statistics($r);      &compute_all_statistics($r);
     &sort_data($ENV{'form.sortby'});      &sort_data($env{'form.sortby'});
     if ($plot eq 'degrees') {      if ($plot eq 'degrees') {
         &degrees_plot($r);          &degrees_plot($r);
     } elsif ($plot eq 'tries statistics') {      } elsif ($plot eq 'tries statistics') {
Line 969  sub make_single_stat_plot { Line 1028  sub make_single_stat_plot {
     }      }
     #      #
     # Build up the data sets to plot      # Build up the data sets to plot
     my @Labels;       my @Labels;
     my @Data;      my @Data;
     my $max = 1;      my $max = 1;
     foreach my $data (@StatsArray) {      foreach my $data (@StatsArray) {
Line 1009  sub degrees_plot { Line 1068  sub degrees_plot {
     my $plot = '';      my $plot = '';
     my $ymax = 0;      my $ymax = 0;
     my $ymin = 0;      my $ymin = 0;
     my @Disc; my @Diff; my @Labels;          my @Disc; my @Diff; my @Labels;
     foreach my $data (@StatsArray) {      foreach my $data (@StatsArray) {
         push(@Labels,$data->{'problem_num'});          push(@Labels,$data->{'problem_num'});
         my $disc = $data->{'deg_of_disc'};          my $disc = $data->{'deg_of_disc'};
Line 1099  sub degrees_plot { Line 1158  sub degrees_plot {
     </curve>      </curve>
 </gnuplot>  </gnuplot>
 END  END
     my $plotresult =       my $plotresult =
         '<p>'.&Apache::lonxml::xmlparse($r,'web',$plot).'</p>'.$/;          '<p>'.&Apache::lonxml::xmlparse($r,'web',$plot).'</p>'.$/;
     $r->print($plotresult);      $r->print($plotresult);
     return;      return;
Line 1184  sub tries_data_plot { Line 1243  sub tries_data_plot {
     </curve>      </curve>
 </gnuplot>  </gnuplot>
 END  END
     my $plotresult =       my $plotresult =
         '<p>'.&Apache::lonxml::xmlparse($r,'web',$plot).'</p>'.$/;          '<p>'.&Apache::lonxml::xmlparse($r,'web',$plot).'</p>'.$/;
     $r->print($plotresult);      $r->print($plotresult);
     return;      return;
Line 1193  END Line 1252  END
 sub plot_dropdown {  sub plot_dropdown {
     my $current = '';      my $current = '';
     #      #
     if (defined($ENV{'form.plot'})) {      if (defined($env{'form.plot'})) {
         $current = $ENV{'form.plot'};          $current = $env{'form.plot'};
     }      }
     #      #
     my @Additional_Plots = (      my @Additional_Plots = (
Line 1238  sub Excel_output { Line 1297  sub Excel_output {
     &compute_all_statistics($r);      &compute_all_statistics($r);
     my $c = $r->connection;      my $c = $r->connection;
     return if ($c->aborted());      return if ($c->aborted());
       #
       my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();
     ##      ##
     ## Create the excel workbook      ## Create the excel workbook
     my $filename = '/prtspool/'.      my ($excel_workbook,$filename,$format) =
         $ENV{'user.name'}.'_'.$ENV{'user.domain'}.'_'.          &Apache::loncommon::create_workbook($r);
         time.'_'.rand(1000000000).'.xls';      return if (! defined($excel_workbook));
     my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();  
     #  
     # Create sheet  
     my $excel_workbook = Spreadsheet::WriteExcel->new('/home/httpd'.$filename);  
     #  
     # Check for errors  
     if (! defined($excel_workbook)) {  
         $r->log_error("Error creating excel spreadsheet $filename: $!");  
         $r->print(&mt("Problems creating new Excel file.  ".  
                   "This error has been logged.  ".  
                   "Please alert your LON-CAPA administrator."));  
         return 0;  
     }  
     #  
     # The excel spreadsheet stores temporary data in files, then put them  
     # together.  If needed we should be able to disable this (memory only).  
     # The temporary directory must be specified before calling 'addworksheet'.  
     # File::Temp is used to determine the temporary directory.  
     $excel_workbook->set_tempdir($Apache::lonnet::tmpdir);  
     #      #
     # Add a worksheet      # Add a worksheet
     my $sheetname = $ENV{'course.'.$ENV{'request.course.id'}.'.description'};      my $sheetname = $env{'course.'.$env{'request.course.id'}.'.description'};
     if (length($sheetname) > 31) {      if (length($sheetname) > 31) {
         $sheetname = substr($sheetname,0,31);          $sheetname = substr($sheetname,0,31);
     }      }
     my $excel_sheet = $excel_workbook->addworksheet(      my $excel_sheet = $excel_workbook->addworksheet(
         &Apache::loncommon::clean_excel_name($sheetname));          &Apache::loncommon::clean_excel_name($sheetname));
     #  
     my $format = &Apache::loncommon::define_excel_formats($excel_workbook);  
     ##      ##
     ## Begin creating excel sheet      ## Begin creating excel sheet
     ##      ##
Line 1279  sub Excel_output { Line 1319  sub Excel_output {
     #      #
     # Put the course description in the header      # Put the course description in the header
     $excel_sheet->write($rows_output,$cols_output++,      $excel_sheet->write($rows_output,$cols_output++,
                    $ENV{'course.'.$ENV{'request.course.id'}.'.description'},                     $env{'course.'.$env{'request.course.id'}.'.description'},
                         $format->{'h1'});                          $format->{'h1'});
     $cols_output += 3;      $cols_output += 3;
     #      #
     # Put a description of the sections listed      # Put a description of the sections listed
     my $sectionstring = '';      my $sectionstring = '';
     $excel_sheet->write($rows_output,$cols_output++,      $excel_sheet->write($rows_output,$cols_output++,
                         &Apache::lonstathelpers::sections_description                          &Apache::lonstatistics::section_and_enrollment_description('plaintext'),
                             (@Apache::lonstatistics::SelectedSections),  
                         $format->{'h3'});                          $format->{'h3'});
     $cols_output += scalar(@Apache::lonstatistics::SelectedSections);      $cols_output += scalar(&Apache::lonstatistics::get_selected_sections());
       $cols_output += scalar(&Apache::lonstatistics::get_selected_groups());
     #      #
     # Time restrictions      # Time restrictions
     my $time_string;      my $time_string;
Line 1314  sub Excel_output { Line 1354  sub Excel_output {
     $excel_sheet->write($rows_output,$cols_output++,      $excel_sheet->write($rows_output,$cols_output++,
                         'Compiled on '.localtime(time));                          'Compiled on '.localtime(time));
     #      #
     $rows_output++;       $rows_output++;
     $cols_output=0;      $cols_output=0;
     ##      ##
     ## Sequence Statistics      ## Sequence Statistics
     ##       ##
     &write_headers($excel_sheet,$format,\$rows_output,\$cols_output,      &write_headers($excel_sheet,$format,\$rows_output,\$cols_output,
                    \@SeqFields);                     \@SeqFields);
     foreach my $seq (&Apache::lonstatistics::Sequences_with_Assess()) {      foreach my $seq (@sequences) {
         next if ($seq->{'num_assess'} < 1);          my $data = $SeqStat{$seq->symb};
         my $data = $SeqStat{$seq->{'symb'}};  
         $cols_output=0;          $cols_output=0;
         foreach my $field (@SeqFields) {          foreach my $field (@SeqFields) {
             next if ($field->{'selected'} ne 'yes');              next if ($field->{'selected'} ne 'yes');
Line 1397  sub write_headers { Line 1436  sub write_headers {
     foreach my $field (@{$Fields}) {      foreach my $field (@{$Fields}) {
         next if ($field->{'selected'} ne 'yes');          next if ($field->{'selected'} ne 'yes');
         next if ($field->{'name'} eq 'problem_num');          next if ($field->{'name'} eq 'problem_num');
         # Use english for excel as I am not sure how well excel handles           # Use english for excel as I am not sure how well excel handles
         # other character sets....          # other character sets....
         $excel_sheet->write($$rows_output,$$cols_output,          $excel_sheet->write($$rows_output,$$cols_output,
                             $field->{'title'},                              $field->{'title'},
Line 1419  sub write_headers { Line 1458  sub write_headers {
 sub compute_statistics_on_sequence {  sub compute_statistics_on_sequence {
     my ($seq) = @_;      my ($seq) = @_;
     my @Data;      my @Data;
     foreach my $res (@{$seq->{'contents'}}) {      foreach my $res (&Apache::lonstathelpers::get_resources($navmap,$seq)) {
         next if ($res->{'type'} ne 'assessment');          foreach my $part (@{$res->parts}) {
         foreach my $part (@{$res->{'parts'}}) {              next if (($res->is_survey($part)) || ($res->is_anonsurvey($part))) ;
             next if ($res->{'partdata'}->{$part}->{'Survey'});  
             #              #
             # This is where all the work happens              # This is where all the work happens
             my $data = &get_statistics($seq,$res,$part,scalar(@StatsArray)+1);              my $data = &get_statistics($seq,$res,$part,scalar(@StatsArray)+1);
Line 1440  sub compute_all_statistics { Line 1478  sub compute_all_statistics {
         return;          return;
     }      }
     my $c = $r->connection;      my $c = $r->connection;
     foreach my $seq (&Apache::lonstatistics::Sequences_with_Assess()) {      foreach my $seq (@sequences) {
         last if ($c->aborted);          last if ($c->aborted);
         next if ($seq->{'num_assess'} < 1);  
         &compute_sequence_statistics($seq);          &compute_sequence_statistics($seq);
         &compute_statistics_on_sequence($seq);          &compute_statistics_on_sequence($seq);
     }      }
Line 1512  sub sort_data { Line 1549  sub sort_data {
   
 =item &get_statistics()  =item &get_statistics()
   
 Wrapper routine from the call to loncoursedata::get_problem_statistics.    Wrapper routine from the call to loncoursedata::get_problem_statistics.
 Calls lonstathelpers::get_time_limits() to limit the data set by time  Calls lonstathelpers::get_time_limits() to limit the data set by time
 and &compute_discrimination_factor  and &compute_discrimination_factor
   
 Inputs: $sequence, $resource, $part, $problem_num  Inputs: $sequence, $resource, $part, $problem_num
   
 Returns: Hash reference with statistics data from   Returns: Hash reference with statistics data from
 loncoursedata::get_problem_statistics.  loncoursedata::get_problem_statistics.
   
 =cut  =cut
Line 1529  sub get_statistics { Line 1566  sub get_statistics {
     my ($sequence,$resource,$part,$problem_num) = @_;      my ($sequence,$resource,$part,$problem_num) = @_;
     #      #
     my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();      my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();
     my $symb = $resource->{'symb'};      my $symb = $resource->symb;
     my $courseid = $ENV{'request.course.id'};      my $courseid = $env{'request.course.id'};
     #      #
     my $data = &Apache::loncoursedata::get_problem_statistics      my $data = &Apache::loncoursedata::get_problem_statistics
                         (\@Apache::lonstatistics::SelectedSections,                          ([&Apache::lonstatistics::get_selected_sections()],
                            [&Apache::lonstatistics::get_selected_groups()],
                          $Apache::lonstatistics::enrollment_status,                           $Apache::lonstatistics::enrollment_status,
                          $symb,$part,$courseid,$starttime,$endtime);                           $symb,$part,$courseid,$starttime,$endtime);
     $data->{'symb'}        = $symb;      $data->{'symb'}        = $symb;
     $data->{'part'}        = $part;      $data->{'part'}        = $part;
     $data->{'problem_num'} = $problem_num;      $data->{'problem_num'} = $problem_num;
     $data->{'container'}   = $sequence->{'title'};      $data->{'container'}   = $sequence->compTitle;
     $data->{'title'}       = $resource->{'title'};      $data->{'title'}       = $resource->compTitle;
     $data->{'title.link'}  = $resource->{'src'}.'?symb='.      $data->{'title.link'}  = $resource->src.'?symb='.
         &Apache::lonnet::escape($resource->{'symb'});          &escape($resource->symb);
     #      #
     if ($SelectedFields{'deg_of_disc'}) {      if ($SelectedFields{'deg_of_disc'}) {
         $data->{'deg_of_disc'} =           $data->{'deg_of_disc'} =
             &compute_discrimination_factor($resource,$part,$sequence);              &compute_discrimination_factor($resource,$part,$sequence);
     }      }
     #      #
     # Store in metadata if computations were done for all students      # Store in metadata if computations were done for all students
     if ($data->{'num_students'} > 1) {      if ($data->{'num_students'} > 1) {
         my @Sections = @Apache::lonstatistics::SelectedSections;          my @Sections = &Apache::lonstatistics::get_selected_sections();
         my $sections = '"'.join(' ',@Sections).'"';          my $sections = '"'.join(' ',@Sections).'"';
         $sections =~ s/&+/_/g;  # Ensure no special characters          $sections =~ s/&+/_/g;  # Ensure no special characters
         $data->{'sections'}=$sections;          $data->{'sections'}=$sections;
         $data->{'course'} = $ENV{'request.course.id'};          $data->{'course'} = $env{'request.course.id'};
         my $urlres=(&Apache::lonnet::decode_symb($resource->{'symb'}))[2];          my $urlres=(&Apache::lonnet::decode_symb($resource->symb))[2];
         $data->{'urlres'}=$urlres;          $data->{'urlres'}=$urlres;
         my %storestats =           my %storestats =
             &LONCAPA::lonmetadata::dynamic_metadata_storage($data);              &LONCAPA::lonmetadata::dynamic_metadata_storage($data);
         my ($dom,$user) = $urlres=~/^(\w+)\/(\w+)/;           my ($dom,$user) = ($urlres=~m{^($LONCAPA::domain_re)/($LONCAPA::username_re)});
         &Apache::lonnet::put('nohist_resevaldata',\%storestats,$dom,$user);          &Apache::lonnet::put('nohist_resevaldata',\%storestats,$dom,$user);
     }      }
     #      #
       $data->{'tries_per_correct'} = $data->{'tries'} / 
           ($data->{'num_solved'}+0.1);
       #
     # Get the due date for research purposes (commented out most of the time)      # Get the due date for research purposes (commented out most of the time)
 #    $data->{'duedate'} =   #    my $duedate = &Apache::lonnet::EXT('resource.'.$part.'.duedate',$symb);;
 #        &Apache::lonnet::EXT('resource.'.$part.'.duedate',$symb);  #    my $opendate = &Apache::lonnet::EXT('resource.'.$part.'.opendate',$symb);
 #    $data->{'opendate'} =   #    my $maxtries = &Apache::lonnet::EXT('resource.'.$part.'.maxtries',$symb);
 #        &Apache::lonnet::EXT('resource.'.$part.'.opendate',$symb);  #    my $hinttries = &Apache::lonnet::EXT('resource.'.$part.'.hinttries',$symb);
 #    $data->{'maxtries'} =       my $weight = &Apache::lonnet::EXT('resource.'.$part.'.weight',$symb);
 #        &Apache::lonnet::EXT('resource.'.$part.'.maxtries',$symb);      $data->{'weight'} = $weight;
 #    $data->{'hinttries'} =  #    $data->{'duedate'} = $duedate;
 #        &Apache::lonnet::EXT('resource.'.$part.'.hinttries',$symb);  #    $data->{'opendate'} = $opendate;
   #    $data->{'maxtries'} = $maxtries;
   #    $data->{'hinttries'} = $hinttries;
 #    $data->{'resptypes'} = join(',',@{$resource->{'partdata'}->{$part}->{'ResponseTypes'}});  #    $data->{'resptypes'} = join(',',@{$resource->{'partdata'}->{$part}->{'ResponseTypes'}});
     return $data;      return $data;
 }  }
Line 1593  Returns: integer between -1 and 1 Line 1636  Returns: integer between -1 and 1
 ###############################################  ###############################################
 ###############################################  ###############################################
 sub compute_discrimination_factor {  sub compute_discrimination_factor {
     my ($resource,$part,$sequence) = @_;      my ($resource,$part,$seq) = @_;
       my $symb = $resource->symb;
     my @Resources;      my @Resources;
     foreach my $res (@{$sequence->{'contents'}}) {      foreach my $res (&Apache::lonstathelpers::get_resources($navmap,$seq)){
         next if ($res->{'symb'} eq $resource->{'symb'});          next if ($res->symb eq $symb);
         push (@Resources,$res->{'symb'});          push (@Resources,$res->symb);
     }      }
     #      #
     # rank      # rank
     my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();      my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();
     my $ranking =       my $ranking =
         &Apache::loncoursedata::rank_students_by_scores_on_resources          &Apache::loncoursedata::rank_students_by_scores_on_resources
         (\@Resources,          (\@Resources,
          \@Apache::lonstatistics::SelectedSections,           [&Apache::lonstatistics::get_selected_sections()],
            [&Apache::lonstatistics::get_selected_groups()],
          $Apache::lonstatistics::enrollment_status,undef,           $Apache::lonstatistics::enrollment_status,undef,
          $starttime,$endtime);           $starttime,$endtime, $symb);
     #      #
     # compute their percent scores on the problems in the sequence,      # compute their percent scores on the problems in the sequence,
     my $number_to_grab = int(scalar(@{$ranking})/4);      my $number_to_grab = int(scalar(@{$ranking})/4);
     my $num_students = scalar(@{$ranking});      my $num_students = scalar(@{$ranking});
     my @BottomSet = map { $_->[&Apache::loncoursedata::RNK_student()];       my @BottomSet = map { $_->[&Apache::loncoursedata::RNK_student()];
                       } @{$ranking}[0..$number_to_grab];                        } @{$ranking}[0..$number_to_grab];
     my @TopSet    =       my @TopSet    =
         map {           map {
             $_->[&Apache::loncoursedata::RNK_student()];               $_->[&Apache::loncoursedata::RNK_student()];
           } @{$ranking}[($num_students-$number_to_grab)..($num_students-1)];            } @{$ranking}[-$number_to_grab..0];
     if (! @BottomSet || (@BottomSet == 1 && $BottomSet[0] eq '') ||      if (! @BottomSet || (@BottomSet == 1 && $BottomSet[0] eq '') ||
         ! @TopSet    || (@TopSet    == 1 && $TopSet[0]    eq '')) {          ! @TopSet    || (@TopSet    == 1 && $TopSet[0]    eq '')) {
         return 'nan';          return 'nan';
     }      }
     my ($bottom_sum,$bottom_max) =       my ($bottom_sum,$bottom_max) =
         &Apache::loncoursedata::get_sum_of_scores($resource,$part,\@BottomSet,          &Apache::loncoursedata::get_sum_of_scores($symb,$part,\@BottomSet,
                                                   undef,$starttime,$endtime);                                                    undef,$starttime,$endtime);
     my ($top_sum,$top_max) =       my ($top_sum,$top_max) =
         &Apache::loncoursedata::get_sum_of_scores($resource,$part,\@TopSet,          &Apache::loncoursedata::get_sum_of_scores($symb,$part,\@TopSet,
                                                   undef,$starttime,$endtime);                                                    undef,$starttime,$endtime);
     my $deg_of_disc;      my $deg_of_disc;
     if ($top_max == 0 || $bottom_max==0) {      if ($top_max == 0 || $bottom_max==0) {
Line 1648  sub compute_discrimination_factor { Line 1693  sub compute_discrimination_factor {
 ##  ##
 ## K=the number of items in your test  ## K=the number of items in your test
 ## M=the mean score on the test  ## M=the mean score on the test
 ## s=the standard deviation of the scores on your test   ## s=the standard deviation of the scores on your test
 ##  ##
 ## then:  ## then:
 ##   ##
 ## KR-21 rk= [K/(K-1)] * [1- (M*(K-M))/(K*s^2))]  ## KR-21 rk= [K/(K-1)] * [1- (M*(K-M))/(K*s^2))]
 ##  ##
 ###############################################  ###############################################
 ###############################################  ###############################################
 sub compute_sequence_statistics {  sub compute_sequence_statistics {
     my ($seq) = @_;      my ($seq) = @_;
     my $symb = $seq->{'symb'};      my $symb = $seq->symb;
     my @Resources;      my @Resources;
     foreach my $res (@{$seq->{'contents'}}) {      my $part_count;
         next if ($res->{'type'} ne 'assessment');      foreach my $res (&Apache::lonstathelpers::get_resources($navmap,$seq)) {
         push (@Resources,$res->{'symb'});          push (@Resources,$res->symb);
           $part_count += scalar(@{$res->parts});
     }      }
     my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();      my ($starttime,$endtime) = &Apache::lonstathelpers::get_time_limits();
     #      #
     # First compute statistics based on student scores      # First compute statistics based on student scores
     my ($smin,$smax,$sMean,$sSTD,$scount,$sMAX) =       my ($smin,$smax,$sMean,$sSTD,$scount,$sMAX) =
         &Apache::loncoursedata::score_stats          &Apache::loncoursedata::score_stats
                     (\@Apache::lonstatistics::SelectedSections,                      ([&Apache::lonstatistics::get_selected_sections()],
                        [&Apache::lonstatistics::get_selected_groups()],
                      $Apache::lonstatistics::enrollment_status,                       $Apache::lonstatistics::enrollment_status,
                      \@Resources,$starttime,$endtime,undef);                       \@Resources,$starttime,$endtime,undef);
     $SeqStat{$symb}->{'title'}  = $seq->{'title'};      $SeqStat{$symb}->{'title'}  = $seq->compTitle;
     $SeqStat{$symb}->{'scoremax'}  = $smax;      $SeqStat{$symb}->{'scoremax'}  = $smax;
     $SeqStat{$symb}->{'scoremin'}  = $smin;      $SeqStat{$symb}->{'scoremin'}  = $smin;
     $SeqStat{$symb}->{'scoremean'} = $sMean;      $SeqStat{$symb}->{'scoremean'} = $sMean;
Line 1681  sub compute_sequence_statistics { Line 1728  sub compute_sequence_statistics {
     $SeqStat{$symb}->{'max_possible'} = $sMAX;      $SeqStat{$symb}->{'max_possible'} = $sMAX;
     #      #
     # Compute statistics based on the number of correct problems      # Compute statistics based on the number of correct problems
     # 'correct' is taken to mean       # 'correct' is taken to mean
     my ($cmin,$cmax,$cMean,$cSTD,$ccount)=      my ($cmin,$cmax,$cMean,$cSTD,$ccount)=
         &Apache::loncoursedata::count_stats          &Apache::loncoursedata::count_stats
         (\@Apache::lonstatistics::SelectedSections,          ([&Apache::lonstatistics::get_selected_sections()],
            [&Apache::lonstatistics::get_selected_groups()],
          $Apache::lonstatistics::enrollment_status,           $Apache::lonstatistics::enrollment_status,
          \@Resources,$starttime,$endtime,undef);           \@Resources,$starttime,$endtime,undef);
     my $K = $seq->{'num_assess_parts'};      my $K = $part_count;
     my $kr_21;      my $kr_21;
     if ($K > 1 && $cSTD > 0) {      if ($K > 1 && $cSTD > 0) {
         $kr_21 =  ($K/($K-1)) * (1 - $cMean*($K-$cMean)/($K*$cSTD**2));          $kr_21 =  ($K/($K-1)) * (1 - $cMean*($K-$cMean)/($K*$cSTD**2));
Removed from v.1.94  
changed lines
  Added in v.1.119

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>