<br><br><div class="gmail_quote">On Sat, Jan 8, 2011 at 2:06 PM, Douglas Bates <span dir="ltr">&lt;<a href="mailto:bates@stat.wisc.edu">bates@stat.wisc.edu</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin: 0pt 0pt 0pt 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;">
<div><div></div><div class="h5">On Sat, Jan 8, 2011 at 12:57 PM, Dominick Samperi &lt;<a href="mailto:djsamperi@gmail.com">djsamperi@gmail.com</a>&gt; wrote:<br>
&gt;<br>
&gt;<br>
&gt; On Sat, Jan 8, 2011 at 9:48 AM, Douglas Bates &lt;<a href="mailto:bates@stat.wisc.edu">bates@stat.wisc.edu</a>&gt; wrote:<br>
&gt;&gt;<br>
&gt;&gt; On Sat, Jan 8, 2011 at 7:49 AM, Douglas Bates &lt;<a href="mailto:bates@stat.wisc.edu">bates@stat.wisc.edu</a>&gt; wrote:<br>
&gt;&gt; &gt; On Sat, Jan 8, 2011 at 12:45 AM, Dominick Samperi &lt;<a href="mailto:djsamperi@gmail.com">djsamperi@gmail.com</a>&gt;<br>
&gt;&gt; &gt; wrote:<br>
&gt;&gt; &gt;&gt; I checked things under Linux and Windows (using GCC and VC++ DLL&#39;s) and<br>
&gt;&gt; &gt;&gt; the<br>
&gt;&gt; &gt;&gt; same problem occurs at the same place, which is a good sign when it<br>
&gt;&gt; &gt;&gt; comes to<br>
&gt;&gt; &gt;&gt; memory issues. Basically, the Rcpp::Reference(std::string) constructor<br>
&gt;&gt; &gt;&gt; that<br>
&gt;&gt; &gt;&gt; is<br>
&gt;&gt; &gt;&gt; part of S4_field, or S4_CppOverloadedMethods constructors fails,<br>
&gt;&gt; &gt;&gt; depending<br>
&gt;&gt; &gt;&gt; on<br>
&gt;&gt; &gt;&gt; which comes first (whether there are fields or not). This only happens<br>
&gt;&gt; &gt;&gt; when<br>
&gt;&gt; &gt;&gt; gctorture() is turned on, so R must be clobbering an unprotected SEXP<br>
&gt;&gt; &gt;&gt; somewhere...<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; Thanks, Dominick. I too have been working on tracking this down and<br>
&gt;&gt; &gt; got to that point.  If you follow a little further you will find that<br>
&gt;&gt; &gt; it is the evaluation of the R function getCurrentErrorMessage in the<br>
&gt;&gt; &gt; Rcpp::Evaluator::run method where things start to go bad, as far as I<br>
&gt;&gt; &gt; can see.  I hope to be able to isolate this today as I need a working<br>
&gt;&gt; &gt; version of lme4a by tomorrow.<br>
&gt;&gt;<br>
&gt;&gt; My current theory is that Rcpp_cache is being blown away by the<br>
&gt;&gt; garbage collector.  Because we want this to be persistent I think the<br>
&gt;&gt; simplest thing to do is to assign it to a name like .Rcpp_cache in the<br>
&gt;&gt; namespace during the .onLoad function.  I&#39;ll try that.<br>
&gt;<br>
&gt; I tested this theory by cutting out the Evaluator code and it appears that<br>
&gt; the cache is not harmed by gctorture(). I suspect that the problem may<br>
&gt; be earlier in the chain of construction, either a SEXP that was not<br>
&gt; preserved,<br>
&gt; or an aliasing problem. It appears that init_Rcpp_cache() is called twice<br>
&gt; at start-up, which does not seem right, but suppressing the second attempt<br>
&gt; does not fix the problem.<br>
<br>
</div></div>The second call was eliminated in the SVN archive a couple of days<br>
ago.  I have gotten around some of the problems with the garbage<br>
collection by redefining how the Rcpp_cache variable is created (not<br>
yet checked in) so it progresses further.  I still think that there is<br>
a point where a promise in not being evaluated before being used but<br>
haven&#39;t found it yet.<br></blockquote><div><br>Gabor brought up the topic of Promises a few days ago and it<br>seems support for this is still in flux, and the current behavior is<br>to always to evaluate when a promise is detected, but perhaps some<br>
are missed, as you suggest.<br><br></div><blockquote class="gmail_quote" style="margin: 0pt 0pt 0pt 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;">
<br>
With lazyLoad enabled the first time that you find a variable in the<br>
namespace it will have a PROMSXP typeof field and you need to invoke<br>
Rf_eval on it to actually get the value.  There are several variables<br>
from the Rcpp namespace being used here, which is why I am suspicious<br>
that an unevaluated promise is somehow getting used.<br></blockquote><div><br>I gather from this that you have resolved the gctorture()/no-gctoture()<br>issues with your garbage collection fix? Otherwise, I don&#39;t see how<br>
unevaluated Promises would lead to problems that change with<br>the gctorture() status.<br> <br></div><blockquote class="gmail_quote" style="margin: 0pt 0pt 0pt 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;">

<div><div></div><div class="h5"><br>
&gt;&gt;<br>
&gt;&gt; &gt;&gt; On Fri, Jan 7, 2011 at 9:47 AM, Romain Francois<br>
&gt;&gt; &gt;&gt; &lt;<a href="mailto:romain@r-enthusiasts.com">romain@r-enthusiasts.com</a>&gt;<br>
&gt;&gt; &gt;&gt; wrote:<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; Hmm. I commited 2845 and 2846 today.<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; Anyway, if you see it also with 0.9.0 this means more detective work.<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; Le 07/01/11 15:05, Douglas Bates a écrit :<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; On Fri, Jan 7, 2011 at 5:34 AM, Romain Francois<br>
&gt;&gt; &gt;&gt;&gt;&gt; &lt;<a href="mailto:romain@r-enthusiasts.com">romain@r-enthusiasts.com</a>&gt;  wrote:<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Le 05/01/11 18:52, Douglas Bates a écrit :<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; I don&#39;t know whether this is through error on my part or because of<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; an<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; &quot;infelicity&quot; in the Rcpp module code but the lme4a package, which<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; now<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; uses Rcpp modules extensively, ends up with some difficult-to-trace<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; memory corruption issues.  Yesterday i finally bit the bullet and<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; ran<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; a test with gctorture(TRUE) and valgrind enabled.  It takes a very<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; long time and results in a segfault when trying to load the<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; package.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; I enclose the transcript.  I should say that this is using<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; Rcpp_0.9.0<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; from CRAN, not the SVN version of Rcpp.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; I just got these results this morning (it was running overnight)<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; and<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; haven&#39;t looked at the code in Module.cpp and cache.cpp yet.  If it<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; seems likely that the code is beyond me I can try to work out a<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;&gt; simpler example that triggers the problem.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Hi Doug,<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Sorry for the delay, I&#39;m not fully operational yet.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; All this might be related to some code I put in during holidays and<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; did<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; not<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; have a chance to fully test.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Can you try with rev 2845 and let me know if you still see the<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; problem.<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt;&gt; Romain<br>
&gt;&gt; &gt;&gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;&gt; Regrettably the problem persists with rev 2845 (which was from<br>
&gt;&gt; &gt;&gt;&gt;&gt; 2011-01-04, is that the one you meant?) but it is also present when<br>
&gt;&gt; &gt;&gt;&gt;&gt; using Rcpp_0.9.0<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; --<br>
&gt;&gt; &gt;&gt;&gt; Romain Francois<br>
&gt;&gt; &gt;&gt;&gt; Professional R Enthusiast<br>
&gt;&gt; &gt;&gt;&gt; +33(0) 6 28 91 30 30<br>
&gt;&gt; &gt;&gt;&gt; <a href="http://romainfrancois.blog.free.fr" target="_blank">http://romainfrancois.blog.free.fr</a><br>
&gt;&gt; &gt;&gt;&gt; |- <a href="http://bit.ly/fT2rZM" target="_blank">http://bit.ly/fT2rZM</a> : highlight 0.2-5<br>
&gt;&gt; &gt;&gt;&gt; |- <a href="http://bit.ly/gpCSpH" target="_blank">http://bit.ly/gpCSpH</a> : Evolution of Rcpp code size<br>
&gt;&gt; &gt;&gt;&gt; `- <a href="http://bit.ly/hovakS" target="_blank">http://bit.ly/hovakS</a> : RcppGSL initial release<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; _______________________________________________<br>
&gt;&gt; &gt;&gt;&gt; Rcpp-devel mailing list<br>
&gt;&gt; &gt;&gt;&gt; <a href="mailto:Rcpp-devel@lists.r-forge.r-project.org">Rcpp-devel@lists.r-forge.r-project.org</a><br>
&gt;&gt; &gt;&gt;&gt;<br>
&gt;&gt; &gt;&gt;&gt; <a href="https://lists.r-forge.r-project.org/cgi-bin/mailman/listinfo/rcpp-devel" target="_blank">https://lists.r-forge.r-project.org/cgi-bin/mailman/listinfo/rcpp-devel</a><br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;&gt;<br>
&gt;&gt; &gt;<br>
&gt;<br>
&gt;<br>
</div></div></blockquote></div><br>