第八章非抽样误差课件.ppt

《第八章非抽样误差课件.ppt》由会员分享，可在线阅读，更多相关《第八章非抽样误差课件.ppt（42页珍藏版）》请在三一办公上搜索。

1、第八章 非抽样误差,第八章 非抽样误差,教学目的 通过本章的教学，使学生熟悉非抽样误差的含义及特点；掌握抽样框误差、无回答误差、计量误差等产生的原因和预防的方法。,重点与难点 本章的重点非抽样误差的含义及其各种非抽样误差形成的原因和预防方法；难点是抽样框误差、无回答误差、计量误差等产生的原因和预防的方法。,本章结构,8.1 引言,一、非抽样误差的含义 非抽样误差是指除抽样误差以外的，由于各种原因引起的误差。在概率抽样、非概率抽样、其他全面调查和非全面调查以及普查中，非抽样误差都用可能存在。,二、非抽样误差的特点非抽样误差不是由于抽样的随机性带来的，所以在抽样调查中，它不可能随着样本量的增大而变

2、小；在抽样调查中，由于非抽样误差的影响，往往造成估计量的有偏；有些非抽样误差难以识别和测定；由于产生非抽样误差的渠道众多，有些非抽样误差成因复杂，尤其调查对象是人的时候，社会因素、经济因素对非抽样误差的范围和程度都产生不可忽视的影响。,三、非抽样误差的类型抽样框误差，即由不完善的抽样框引起的误差；无回答误差，即由于种种原因没有从被调查单位获得调查结果，造成调查数据的缺失；计量误差，即所获得的调查数据与其真值之间不一致造成的误差。,8.2 抽样框误差,抽样调查从一开始就必须注意尽量避免非抽样误差,正如本教材第一章所述,抽样设计方案对于抽样结果是否精确起着很重要的作用。一个设计很差的抽样方案将会带

3、来足以使抽样失败的非抽样误差，第一章中提到的文学摘要民意测验则是一个有说服力的实例。,美国文学摘要对于1936年美国总统选举进行了预测，当时大多数观察家认为罗斯福会轻易获胜，而文学摘要根据自己的抽样断定兰登与罗斯福的获胜比率将是57和43.然而却是罗斯福以62比38的绝对优势坐上了总统宝座。与事实完全相悖的预测断送了这家原本颇有名气的杂志的前程，不久它只得停刊就此“关门大吉”。,美国文学摘要发出了1000万张调查表，收回了200万张，花费了那么大的精力，收集了那么多的数据 ，怎么会出那么大的错误呢？主要原因就是抽样框的选取。原来它是按照电话簿和俱乐部成员的名单发出调查表的，由此选取的样本明显地

4、排斥穷人！因为当时一般穷人很少拥有私人电话或隶属于哪个俱乐部（1936年，美国大约有1100万部住宅电话）。众所周知，经济地位在很大程度上影响着政治态度：穷人压倒多数地倾向于罗斯福而有钱人则偏向于兰登。文学摘要的样本反映不出这个社会现实从而犯了致命的错误。,设计带来非抽样误差有很多表现在抽样框出了问题，第一章中所述的文学摘要的抽样框明显地偏向于某一部分人而忽略了另一部分人，从中产生的非抽样误差使得抽样结果不能反映总体（全体选民）的意见。这种致命的错误来源于抽样框“丢失”了总体中占有一定比例的单元，如果这一部分被“丢失”的群体在调查关心的参数方面有其独特的一面，那么这种“丢失”引起的非抽样误差使

5、推断或估计带有明显的偏性。,如果我们的抽样方案是分层抽样，分层抽样不太可能按照关心的总体参数去实施，而常常根据若干辅助信息来进行，当然这些辅助信息与调查变量应当有较强的相关程度。倘若这些辅助变量资料不健全，不准确甚至借用这些辅助变量本身属于判断失误，由此引起的非抽样误差可能会严重威胁到估计的准确性。,有时候陈旧的抽样框将带来我们所不希望看到的非抽样误差，因为陈旧的抽样框会造成总体单元的“丢失”现象，一般地它还难以反映近期有关变量的一些变化。,以上所述的非抽样误差属于在抽样之前的设计方案工作及编制抽样框中需要认真对待的。本章就抽样过程中产生的非抽样误差进行详尽的讨论。,8.3 无回答误差,一、概

6、 念 无回答误差是指在调查中由于种种原因，调查人员没能够从入选样本的单元处获得所需要的信息，由于数据缺失造成估计量的偏误。 无回答误差是一种重要的非抽样误差，对调查数据的质量起着重要影响。 由于这种现象十分普遍，对估计量的危害也比较大，所以国际上对这方面的讨论一直比较热烈，目前这种讨论仍在继续。,二、无回答误差产生原因及影响,（1）遗漏。由随机抽样所确定的调查单位出现“找不到”现象，或者由于客观存在的一些困难，诸如交通极端不便，气候异常恶劣等而无法找到确定要去访问的对象。,（2）被调查对象不在家。有时候可以请家庭中其他人甚至就近换一家进行访问，这样的做法虽然方便，但是在一定程度上破坏了随机性。

7、有时候为了确保抽样的随机性，“不在家”就造成了“无回答”。,（3）不能回答。某些被访问者对于问卷中的若干问题缺乏有关资料或者出于各种各样的原因而不愿意回答。,（4）坚决拒绝调查。这是由于各种原因造成的，尤其是有些问题涉及到个人隐私等等，由此产生的偏差一般较难消除。,造成无回答现象的原因有许许多多，但一般地，由政府部门出面组织的抽样调查常常能得到被调查者的友好合作，这种情况下无回答现象的比例相对地较少，然而对于一般的市场信息调查等非政府组织的抽样调查无回答现象比例非常的高。随着我国社会主义市场经济的发展和完善，这种情况正在逐步得到改善。,其实调查人员的素质，调查问题的拟定，被调查人员的文化素质等

8、等都对无回答率有一定影响。每项抽样调查，我们需要力求低比率的无回答现象，从目前来看，完全避免无回答现象是不可能的。,三、如何解决无回答现象产生的非抽样误差,1、提高问卷的回收率,调查报告一般要求列出回收率，尤其是通过邮寄方式进行的调查，更需如此。因为回收率的高低将有力地论证调查的成功与否。,对回收率的分析将有助于在无回答现象较严重的情况下进行数据分析，同时也有助于分析出哪些对象是可以再访问从而采取多次访问的手段尽量减少无回答率。,2、科学进行数据分析,设抽样容量为n，无回答个数为n2，那么我们的实际调查量为n1=n-n2。根据n1个有效数据分析将比原定的计划少了很多信息。如果这n1个访问到的对

9、象是从原定的对象中随机无放回地抽取的，那么推断的结果只是精度上的损失，至于估计量的一些良好性质，例如无偏性等仍然保留。,然而事情并非这样地如意，无回答者常常拥有某些特征以致对调查的问题持有特定的态度，因此依据 个回答数据所作出的推断往往带有偏性。以总体平均数的估计为例，我们面临的情况相当于总体中N 个单元划分为两部分： 回答者， 无回答者。倘若抽样方式是简单随机的，那么 与 的比例理应相当于 与 的比例。这两部分的平均数分别记为 和 ，于是总体平均数为：,(8.1),这个偏倚中， 与 是可以利用调查得到的数据进行估计的，但是由于“无回答”， 是根本无法获知其信息的，因此要对估计量 给于“纠偏”

10、，其难度极大，尤其是在 较大时也就是“无回答者”占有相当大比例时，连 的置信限都难于得到。,在有些实例中，人们只能对偏倚作出一些猜测，这些猜测有时候可以根据一些历史的资料作出，有一定的参考价值；但是有时候凭主观作出的猜测无法证实其正确性，因此利用它来“纠偏”缺乏依据也缺乏精确度，这显然归因于无回答现象带来的恶果。,（1）对某些问题无回答的数据以该问题回答数据的平均数来代替；,（2）从对某问题回答的 个数据中作 次随机有放回的抽样，以填补 个无回答者的数据。,然而在用计算机处理抽样数据时，不单单是简单地用 去代替 或者最多给出一定量的纠偏。众所周知，抽样调查一般不止问一个问题，我们的问卷经常围绕

11、调查的目的而设置一系列问题，我们遇到的无回答现象经常表现为：全部问题无回答或部分问题无回答。在部分问题无回答者中，将会呈现回答问题的多少以及哪些问题无回答的复杂情况，这给计算机处理及整体推断带来一定的困难。有些学者提出对于这样的“丢失”数据能否人为地补缺，如果对无回答对象一无所知的情况下，我们可以采取下述措施：,上述做法还是相当于从 个回答者的数据出发对总体作出推断，但是在计算机上整体考虑来说是作为 个样本来处理的，给整体全面的推断带来某种方便，且也具有一定合理性，因为我们的抽样调查本身是要求 个均有回答的。然而这样的处理在精度上如何计算，或者说新构成的估计量方差如何估计，国外的一些统计学家曾

12、作过研究与进一步的探索。,3、多次访问,为了缩小无回答所引起的偏差，减少无回答的数量，有必要采取一些措施，例如对访问者的培训，对敏感问题的适当处理以消除被访问者的疑虑，调查前作好充分的准备工作等等，采用多次访问是个有效的方法。当然，对于那些“坚决拒绝回答者”来说，多次访问很难奏效，但是对于那些“不在家”或“不能回答”原因的无回答者应当有不小的作用。,实际工作表明，多次访问的确能做到减少无回答率，随之而引出的问题是承担的费用问题。一般地，抽样方案设计中会留下一部分经费用于“再访问”以便提高回答率。所谓多次访问不可能“许多次”，因为随着访问次数的增加，每次的回收率将随之减少，因此“许多次”是不必要

13、的。另外在再次访问时，最好的办法是换一个访问员独立地对前一次无回答者进行访问，这样常常可以收到很好的效果。,如果由于条件的限制，只能进行一次调查，如何较正由于无回答而引起的误差呢？ PolizeSimmons对总体平均数提出的建议对我们有一定的参考价值。,4、PolizeSimmons较正,假定所有访问者均是在除周日以外的6个晚上进行，对于每一个实际被调查者在答完问卷以后再附带询问一个问题：“除周日之外，您在今晚以前的5个晚上有几天在家？”这个问题的如实回答实际上告诉了访问员关于他晚上在家的频率的一个大致估计： （其中t是被调查者回答的天数）。,根据调查的结果可以将被访问人分为6部分，即 。设

14、每个部分含有 个人。显然， 越大， 就越大，对应此 的组入样的可能性就越大，这样该部分的平均数 在估计总体平均数的过程中应当赋予与该组在家频率 相适应的权。,这种思想实质上类似于不等概率抽样时的平均数估计。按照这种加权平均的思想，我们将原先的样本平均数（当然是基于被调查到的样本） 调整为所谓Polize-Simmons估计量:,(8.3),Polize-Simmons较正在直观上有合理的解释：某些调查指标诸如生活费用的平均年收入或年支出与被调查者是否容易找到是较强相关的两个因素。如果不采用加权平均数而采用被调查者的平均数，那么所得到的估计就相对地突出了那些容易被找到的人的影响，而掩盖了另一部分

15、不容易找到的人的影响。,8.4 计量误差,一、概念 计量误差是又一种重要的非抽样误差。由于计量工具的不够精确，或由于调查人员工作的粗糙失误，或者是数据处理人员的马马虎虎，都有可能造成调查所得数据与真值之间的不一致。这样的计量误差（或称调查误差）将严重地威胁到抽样推断。本节还要简略讨论到另一种调查误差，那就是人为的“虚假”数据，数据的伪造与虚假干扰了我们的调查与推断，有时候会发生不堪设想的严重后果。,(一)设计不周引起的误差,因为方案以及问卷的设计引起偏差的问题，我们已经在第一章中较为详尽地阐述过，本节稍稍谈论由此引起的计量方面的误差。,在调查咨询方面取得极大成功的盖洛普十分强调问卷设计中的用词

16、，用词欠妥有可能引起调查结果在计量方面显著的不同，足以例证的当推Rugg试验：,问题甲：“您认为美国应当禁止反对民主的公开言论吗？”其结果是54的人赞成。,问题乙：“您认为美国应该允许反对民主的公开言论吗？”结果是75的人不赞成。,两个问题表示美国多数以上的人不同意在美国有公开反对民主的言论，但比例为54：75，相距甚远。既然人们倾向于不允许反对民主的公开言论，但“禁止”两字使不少人感到这与“民主及言论自由”有相悖之处。这里面涉及到美国的国情、美国人的心理承受等各种因素。,当然，要想完全避免问题设计引起的计量上的误差很难做到，因此我们主张有时候可以做些小范围的试调查，从而调整我们的各种用词。,

17、(二)调查员误差,对于一个对象的访问，如果不存在调查员方面的问题，照理调查所取得的数据与真值之间只有随机误差，因此从理论上讲，只要对该对象多次访问再取平均数则可以基本上“抵消”随机误差的影响。然而由于调查员方面引起的误差（通常称为系统误差）不可能通过多次访问而抵消。,调查员误差常常归因于：,（1）调查员本身的素质，倘若一个调查员工作粗糙、登录马虎等，则会引起不必要的差错。有些调查员只在调查中将对象提供的以前的或公开的资料照抄，殊不知这些 以前的或公开的数据与现在要调查得到的数据之间有时是存在差异的，这样的误差当然是由调查员而引起的。,（2）调查员的诱导引起的调查误差。调查员为了将问题展开下去，

18、常启发被调查人员，或做一些示范暗示，做一些比喻，言语与动作之间常带有调查员本身的一些想法愿望等，只要回答的结果不对被调查人员的生活及其他带来不利影响的话，有些被调查人员就会自然地顺着调查员的思路回答问卷。,（3）调查员按照被调查人员给自己留下的初步印象而推测填写问卷。不能否认，调查员本身是生活在社会中的一员，对许多事情有自己的思想，会作出自己的判断。被调查人员的年龄、性别、社会职业、家庭收入，以及一进门就可看到的家庭摆设、卫生状况，甚至被调查人员的容貌等都会给调查人员一个较深刻的印象，在问卷中有些不清楚的问题，或者需要被调查人员讲述一些观点而由调查员记录下来的内容，都有可能由于调查员认为这样的

19、人必定如何回答该问题的印象而引起误差。,或者调查员根据先前对其他人的访问留下的印象，比如对某问题持赞成者多，那么这种印象也很有可能成为他采访下一个对象时已经形成初步结论。,以上这些调查员误差都是属于系统误差，称为偏差，不可能通过大量访问或多次访问加以克服。要尽可能地避免或减少调查员误差就必须挑选合格称职的调查员，并且对调查员预先进行培训，讲清楚注意点，尤其是要向调查员反复强调职业道德。另外抽样调查的督导十分重要，督导的作用是检查调查质量，并从中抽取少部分进行核查访问以评估调查的质量。核查通常采用电话方式，若上门核查则常常采用调查员之间交叉核查的办法。,（三）被调查人员误差,被调查人员误差虽然需

20、要“防治”，但有些是可以原谅的，例如被调查者对问题的理解发生差错就是一例，当然如果是调查员上门访问，那么这种差错就容易及时更正，但如果是邮寄问卷等则无法纠正了。另外，有不少事情是需要被调查人员回忆后再回答的，它不像“什么时侯出生”、“何地出生”、“家中有几口人”等这些问题既简单且不易发生差错。,有些事情，时间比较长且又比较复杂，回忆有一定的困难，差错也是难免的。对于这种类型的差错，一般要求调查员有耐心地等待，给予一定的回忆时间。倘若被调查人员身体不适、情绪欠佳，或者调查环境使人烦躁等都会引起回答误差。,另一类由被调查人员引起的调查误差是不可原谅的，那就是被调查人员“谎报军情”提供虚假数据。这里

21、面有一部分人因为牵涉到一些敏感性问题而不愿如实回答，对于敏感性问题的巧妙处理将在下一节进行讨论。但是，在我国的确存在着虚报瞒报、篡改统计数据等现象，使国家统计局掌握统计信息，反映我国国民经济发展及社会运行状况工作遇到人为麻烦。因此，广泛宣传统计法，加强对统计法执行的力度已经刻不容缓。,关于样本数据是否虚假，存在一个发现与判断的问题，往往只有比较样本数据的整体变化才有可能确定，或者可以利用历史样本以及经验进行判断。,二、虚假数据的判断与处理,例如，如果我们发现某村申报小麦亩产量为500公斤，从该村历史上的小麦亩产量以及周围地区的小麦亩产量的抽样数据，也许我们会很果断地判定它的虚假性。一般来说，抽

22、样调查总是调查一批数据，是多参数的，各参数之间存在一定的相关，根据历史资料等有时可以估算到相关程度，即使是粗略估计也能有助于我们及时发现虚报数据.,在数值上利用计算机作出判断是人们感兴趣的研究课题，它其实与对抽样的质量评估紧密地联系在一起。简单地说，设 为抽样获得的数据，从这几个对象中随机选取一个子集进行再调查，两次调查的数据分别记为 和 。,（1）比较这两组数据之间的差异，它在某种程度上可以鉴别真伪性，同时也对整个抽样的质量进行适当评估。,（2）利用 ，对总体参数的估计量为 ，利用 对总体参数相应的估计量记为 ， 与 之间的差异可以评估抽样推断的质量，同时也可以检测即使有虚假数据存在可能是否会影响到整体的估计。,在处理数据过程中，一旦发现虚假数据，通常采用的处理手段是：删去或重新调查。删去数据必须小心谨慎，如果确定是虚假数据，那么毋庸置疑地剔除。但是在实际情况中有些数据看起来相当“异常”，而且在历史资料中似乎也从未发生过，大有“虚假”之嫌，而它也许是真实的。例如某县遭到史无前例的天灾，那么在该年该县的农产量便会呈现极度异常值，像这样的虽异常但真实的数据是不应该轻易剔除的，因为每一个数据为我们提供了一定的信息，轻易地丧失信息将严重地威胁到估计的精度。,